JP2009199513A - 違法情報検出装置、違法情報検出方法、及び違法情報検出プログラム - Google Patents

Abstract

【課題】分散して公開される違法性の高いデータを検出することができること。
【解決手段】本発明にかかる違法情報検出装置１は、ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出するものである。違法情報検出装置１は、検索結果情報が格納される検索結果情報記憶部１１と、検索結果情報記憶部１１に格納された検索結果情報から特徴量を抽出し、当該特徴量と検索結果情報とを対応付けて特徴量記憶部１３へ格納する特徴抽出手段１２と、特徴量記憶部１３に格納された複数の特徴量からそれぞれの検索結果情報の間の類似度を計算し、当該類似度に基づき検索結果情報の間が類似するか否かを判定する類似度計算手段１４と、類似度計算手段１４により類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出手段１５と、を備える。
【選択図】図１

Description

本発明は、違法情報検出装置、違法情報検出方法、及び違法情報検出プログラムに関し、特にネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出する違法情報検出装置、違法情報検出方法、及び違法情報検出プログラムに関する。

近年、インターネット上で検索システム、又は検索サービスを利用して求める情報を得ることは、一般的となっている。さらに、インターネット上に自分が作成したコンテンツ等のデータを自由に掲載（アップロード）し、公開することも一般的になりつつある。

このとき、アップロードされるデータによっては著作権やプライバシーの侵害になることがあり、特に、悪意のあるユーザが違法な公開を行うような場合に問題となる。このような違法な公開を防ぐ方法として、テキスト、音声、画像、及び動画等の照合技術を利用し、アップロードされたデータと正規のデータとの照合を行い、一致度が高ければ違法であると検出する方法が考えられる。例えば、非特許文献１に動画照合の技術が記載されている。

また、違法なデータ公開が行われた場合には、侵害されるデータは検索などにより頻繁にアクセスされる可能性が高いことから、アクセスが集中しているデータを検出する技術を用いて違法な公開を検出する方法が考えられる。このようなアクセス集中を検出し防ぐ技術は、例えば特許文献１に記載されている。

また、特許文献２に開示されるコンテンツ利用許諾管理方法は、コンテンツの特徴を抽出し、予め登録されているコンテンツの特徴と比較して著作権侵害の可能性有りと判断された場合、あらかじめ規定された原作コンテンツの利用許諾範囲と比較して利用者に対する利用許諾を管理するものである。

また、特許文献３に開示されるマルチメディア情報配信方法は、配布業者によるマルチメディア情報の不正操作を防止して、マルチメディア情報保持者が有する著作権を保護することを目的としたものである。特許文献３では、ネットワークに接続された視聴者端末からの操作により、配布業者に設置されたネットワーク上の配布装置から、用意されたマルチメディアコンテンツに含まれる複数のマルチメディア情報の各ファイル名及びその再生様式を記述してなる編集情報を受信する。一方、マルチメディア情報保持者の管理下にあるネットワーク上のマルチメディア情報保持装置から、先に受信した編集情報に記述されている各ファイル名により特定される複数のマルチメディア情報の本体を直接読み出して受信する。それにより、当該視聴者端末において、そのマルチメディア情報保持装置から受信した複数のマルチメディア情報を、配布装置から受信した編集情報に記述されている再生様式に従って再生する。

また、特許文献４に開示される著作物データ交換仲介システムは、ユーザ間の著作物交換時において著作権侵害の発生を抑制することを目的とするものである。特許文献４では、著作物登録サーバに所定のユーザ端末からの著作物データの著作物リストが登録され、著作物登録サーバが当該著作物リストの各著作物について著作権の有無を照会し、著作権のある著作物については、他のユーザ端末からの当該著作物リストへのアクセス時に、当該著作権のある著作物を伏せて公開する。

また、特許文献５に開示される時系列データ検索システムは、時系列データの波形的特徴を損なうことなく検索ができるものである。特許文献５では、時系列データからウェーブレット変換と閾値により波形を抽出し、過去のデータと比較し、類似する波形を検出し、今後の波形の予測をする。

また、特許文献６に開示される分散型サービス不能攻撃を防ぐネットワークシステムは、アクセス要求中の特徴を抽出し、抽出された特徴値に基づきＤＤｏＳ（Distributed Denial of Service）攻撃を検知し、攻撃遮断指示を行うことで、ＤＤｏＳ攻撃を高速に検知するものである。

また、特許文献７に開示されるコンテンツ情報公開サーバは、ネットワーク上のコンテンツの検索と公開を容易にすることを目的とするものである。特許文献７では、登録されるコンテンツにおける、登録者情報、使用許諾等の属性情報、及び、登録されるコンテンツから抽出される特徴量を記録し、記録された情報に対して検索することで、コンテンツにおける登録者情報、属性情報、及び、特徴量を対応付けた検索、管理をすることができる。
井上昇、佐藤敦、"擬似マハラノビス相互距離法を用いた動画像顔照合"、情報科学技術フォーラム2002、LI-20、p.163-164 特開２００２−１５８６６０号公報 特開２００１−１３６３６３号公報 特開２００２−０９９２８５号公報 特開２００２−３５８３７４号公報 特開２００３−１３２０８８号公報 特開２００４−３１８７４２号公報 特開２００５−１３５１４６号公報

しかしながら、上述した非特許文献１、特許文献１乃至７では、分散して公開される違法性の高いデータを検出することができないという問題点がある。それは、違法なデータが公開された場合には、次のような特徴があるからである。まず、違法なデータが公開されたサイトへアクセスが集中する傾向がある。それは、違法なデータを求める多くのユーザは、検索エンジンを利用し、違法なデータを見つけ出すために様々な検索条件により検索を行い、検索結果に基づき、当該違法なデータが公開されたサイトへアクセスを行うからである。また、違法なデータは、一箇所に公開されるとは限らない。つまり、複数の悪意のあるユーザにより様々なサイトへ公開される傾向がある。さらに、違法なデータは、公開、削除、そして再公開が繰り返され、その際、少しずつ異なるが類似するデータ内容、又はデータ形式となる可能性がある。そのため、違法なデータを求めるユーザにより検索された検索結果には、様々なサイトで公開された、類似するデータに関する情報が含まれる。

ここで、非特許文献１の技術を用いた方法では、不特定多数のユーザにより任意にデータをアップロードされる場合、いつ、どのデータを照合対象とするかの判断が難しい。

また、特許文献１は、単一のアクセス集中を検出するものであるため、例えば、不特定多数のユーザが、違法性のあるデータ、又はその一部をそれぞれアップロードして公開するような場合、又は、公開したデータが削除され、別のサイトで再公開されるような場合には、アクセスが分散されるために検出の精度が落ちる可能性がある。

また、特許文献２は、予め原作コンテンツを登録しておく必要があるが、一旦、取得されたコンテンツを違法にコピーされて公開される場合には、対応できない。また、特許文献３は、視聴者端末側が、配信されるマルチメディア情報の再生様式を記述してなる編集情報に基づいた処理を行う機能を備える必要がある。

また、特許文献４は、著作物登録サーバに予め著作物リストを登録しておく必要がある。また、特許文献５は、そもそも違法性の検出を目的としていない。また、特許文献６は、ＤＤｏＳ攻撃を検知するものであり、アクセスされているコンテンツが違法性を有するかを検知することはできない。また、特許文献７は、予めコンテンツを登録しておく必要があり、当該コンテンツが違法に公開されたことを検知することはできない。

本発明は、このような問題点を解決するためになされたものであり、分散して公開される違法性の高いデータを検出することができる違法情報検出装置、違法情報検出方法、及び違法情報検出プログラムを提供することを目的とする。

本発明にかかる違法情報検出装置は、ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出するものである。前記検索結果情報が格納される検索結果情報記憶部と、前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出し、当該特徴量と前記検索結果情報とを対応付けて特徴量記憶部へ格納する特徴抽出手段と、前記特徴量記憶部に格納された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算手段と、前記類似度計算手段により類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出手段と、を備える。

本発明にかかる違法情報検出方法は、ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出するものである。前記検索結果情報から特徴量を抽出する特徴量抽出ステップと、前記特徴抽出ステップにより抽出された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算ステップと、前記類似度計算ステップにより類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出ステップと、を備える。

本発明にかかる違法情報検出プログラムは、ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出する処理をコンピュータに実行させるものである。前記検索結果情報が格納される検索結果情報記憶部と、前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出し、当該特徴量と前記検索結果情報とを対応付けて特徴量記憶部へ格納する特徴抽出手段と、前記特徴量記憶部に格納された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算手段と、前記類似度計算手段により類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出手段と、を備える。

本発明により、分散して公開される違法性の高いデータを検出することができる違法情報検出装置、違法情報検出方法、及び違法情報検出プログラムを提供することができる。

以下では、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。各図面において、同一要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略する。

図１は、本発明の実施の形態にかかる違法情報検出装置の構成を示すブロック図である。図１の違法情報検出装置１は、ネットワーク上に公開された情報について任意の検索条件に基づき検索された複数の検索結果情報が予め蓄積されており、当該検索結果情報の中から違法性の高い情報を検出するものである。ここで、検索結果情報とは、例えば、インターネット上に公開されたコンテンツを検索する検索エンジンに対して、複数のユーザが異なる検索条件により実行した検索処理における検索結果のコンテンツ、又は当該コンテンツを示すＵＲＬ(Uniform Resource Locator)などのコンテンツを示す情報である。

本発明の違法情報検出装置１は、汎用的なコンピュータシステムであり、図示しない構成として、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、及び不揮発性記憶装置を備える。違法情報検出装置１は、ＣＰＵがＲＡＭ、ＲＯＭ，又は不揮発性記憶装置に格納されたＯＳ（Operating System）、違法情報検出プログラムを読み込み、違法情報検出処理を実行する。これにより、複数の検索結果情報の中から違法性の高い情報を検出することができる。

尚、違法情報検出装置１は、１台のコンピュータシステムである必要はなく、複数台のコンピュータシステムで構成されていてもよい。さらに、情報サービス検索システム１００は、負荷分散のため、同機能を有するコンピュータシステムを並列に稼働させてもよい。

また、図１に示すように、本発明の違法情報検出装置１は、検索結果情報記憶部１１と、特徴抽出手段１２と、特徴量記憶部１３と、類似度計算手段１４と、違法性検出手段１５とを備える。

検索結果情報記憶部１１は、上述した検索結果情報を記憶する。また、検索結果情報記憶部１１には、違法情報検出装置１により本発明にかかる違法情報検出処理が実行される際に、予め検索結果情報が格納されていればよい。ここで、検索結果情報は、例えば、インターネット上で不特定多数のユーザに公開されたＳＮＳ（Social Networking Service）やブログの記載内容であるテキストデータ、閲覧を可能とした画像データ、又は、視聴を可能とした音声データ、若しくは動画データ等である。尚、検索結果情報記憶部１１には、少なくとも２以上の検索結果情報が記憶されているものとする。

特徴抽出手段１２は、検索結果情報記憶部１１に格納された検索結果情報のそれぞれについて、特徴量を抽出し、当該特徴量と抽出元の検索結果情報とを対応付けて特徴量記憶部１３に格納する。ここで、特徴量は、検索結果情報Ｒに対する特徴量ベクトルＦ＝（ｒ１、ｒ２、…、ｒｎ）で表される。特徴量は、例えば、テキストデータであれば文字ベクトル、又は単語ベクトル等、音声データであればケプストラム等、そして、動画データであれば形状情報等であればよい。尚、特徴量ベクトルの表現は、上述したものに限定されない。また、特徴量の抽出に関する技術は、公知技術としてよく知られているものであるから、ここでは詳細な説明を省略する。

ここで、特徴抽出手段１２は、検索結果情報記憶部１１に格納された全ての検索結果情報に対して、特徴量を抽出する必要はない。その場合、特徴抽出手段１２は、検索結果情報記憶部１１に格納された検索結果情報の内、任意に定められた所定の条件を満たすもの、例えば、一定時間内の検索結果情報や、あるグループに属する複数のユーザにより検索された検索結果情報などを対象としてもよい。

特徴量記憶部１３は、特徴抽出手段１２により検索結果情報から抽出された特徴量を記憶する。

類似度計算手段１４は、特徴量記憶部１３に格納された複数の特徴量に対し、類似度計算を行い、当該類似度に基づき複数の検索結果情報の間が類似するか否かを判定する。例えば、類似度計算手段１４は、特徴量ベクトル間の距離を求めることで、類似度を求めることができる。その場合、ベクトルＸとベクトルＹとの類似度をＤ（Ｘ,Ｙ）と表現する。尚、類似度計算手段１４による類似度計算は、特徴量ベクトル間の距離に限定されない。また、特徴量から類似度を算出する技術は、公知技術としてよく知られているものであるから、ここでは詳細な説明を省略する。

違法性検出手段１５は、類似度計算手段１４により類似すると判定された検索結果情報の種類数を集計し、集計された検索結果情報の種類数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する。

尚、違法情報検出装置１は、検索結果情報記憶部１１に検索結果情報の入力を受け付けられればよく、ネットワーク、例えば、インターネット等に接続されていればよい。又は、違法情報検出装置１は、ネットワークに接続されていなくとも、ネットワーク上で取得された検索結果情報を、別途、検索結果情報記憶部１１に格納するようにしてもよい。

尚、検索結果情報記憶部１１、及び特徴量記憶部１３は、ハードディスクドライブ、光磁気ディスクドライブ、フラッシュメモリ等の不揮発性の記憶装置でもよいし、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置であってもよい。また、検索結果情報記憶部１１、及び特徴量記憶部１３は、違法情報検出装置１に外付けされる記憶装置であってもよい。

次に、本発明の実施の形態にかかる違法情報検出処理を図２に示すフローチャート図により説明する。まず、違法情報検出装置１は、検索結果情報から特徴量を抽出する（Ｓ１１）。具体的には、違法情報検出装置１の特徴抽出手段１２は、検索結果情報記憶部１１に格納された検索結果情報を読み出し、１件の検索情報に対して１件の特徴量を抽出する。その後、抽出された特徴量と抽出元の検索結果情報とを対応付けて特徴量記憶部１３に格納する。例えば、検索結果情報Ｒ１に対して、特徴量ベクトルＦ１＝（ｒ１１、ｒ１２、…、ｒ１ｎ）を抽出し、検索結果情報Ｒ１と特徴量ベクトルＦ１とを対応付けて、すなわち、特徴量ベクトルＦ１から検索結果情報Ｒ１が特定できるようにして、特徴量記憶部１３に格納する。

次に、違法情報検出装置１は、複数の特徴量について、各検索結果情報の間の類似度を計算する（Ｓ１２）。具体的には、違法情報検出装置１の類似度計算手段１４は、特徴量記憶部１３に格納された特徴量を取得し、各特徴量の全ての組み合わせについて、類似度の計算を行う。そして、類似度計算手段１４は、計算された類似度が予め定めた閾値以下である場合、当該組み合わせの特徴量に対応する検索結果情報を類似すると判定する。

例えば、類似度計算手段１４は、検索結果情報Ｒ１から抽出された特徴量Ｆ１、及び検索結果情報Ｒ２から抽出された特徴量Ｆ２における類似度Ｄ（Ｆ１、Ｆ２）が閾値Ｄthreに対して、（１）式を満たすか否かにより類似するか否かを判定する。
Ｄ（Ｆ１、Ｆ２） ＜ Ｄthre ・・・（１）
そして、類似度Ｄ（Ｆ１、Ｆ２）が（１）式を満たす場合、類似度計算手段１４は、特徴量記憶部１３を参照し、Ｆ１、及びＦ２に対応するＲ１、及びＲ２を類似する検索結果情報として判定する。

その後、違法情報検出装置１は、計算された各類似度の内、類似度の閾値以下である検索結果情報の種類数を集計する（Ｓ１３）。具体的には、違法情報検出装置１の違法性検出手段１５は、類似度計算手段１４により類似すると判定された全ての検索結果情報の種類数を集計する。その際、重複する検索結果情報は、集計する種類数から除外する。例えば、検索結果情報Ｒ１、及びＲ２が類似すると判定された場合、検索結果情報の種類数は、「２」となる。さらに、検索結果情報Ｒ２、及びＲ３が類似すると判定された場合、すでに検索結果情報Ｒ２は集計済みであるため、種類数から除外され、検索結果情報の種類数は、「３」となる。

そして、違法情報検出装置１は、集計された検索結果情報の種類数が所定値以上であるか否かを判定する（Ｓ１４）。具体的には、違法情報検出装置１の違法性検出手段１５は、ステップＳ１３により集計された検索結果情報の種類数が所定値、例えば、「３」以上であるか否かを判定する。ここで、所定値以上であれば、ステップＳ１５へ進み、所定値未満であれば、当該違法情報検出処理を終了する。

その後、ステップＳ１４にて、検索結果情報の種類数が所定値以上であると判定された場合、違法情報検出装置１は、該当する検索結果情報を違法性の高い情報として検出する（Ｓ１５）。具体的には、例えば、違法情報検出装置１の違法性検出手段１５は、違法性の高い情報ありである旨のアラームとして検出し、ステップＳ１２にて類似度の閾値以下であると判定された検索結果情報のリストを出力する。

尚、ステップＳ１４にて、検索結果情報の種類数が所定値未満であると判定された場合、違法性検出手段１５は、違法性の高い情報なしである旨の情報を出力してもよい。

このように、本発明にかかる違法情報検出装置１は、当該違法情報検出処理の対象となった検索結果情報記憶部１１に格納済みの検索結果情報の中から、特徴量における類似性が高い検索結果情報の種類数が所定値以上であるかを判定する。

単に、同一の検索結果情報が多い場合は、公式なコンテンツに対してアクセスが集中している可能性があるため、違法性が高いとは判断できない。しかし、同一に限らず、類似している検索結果情報の種類数が多いということは、当該検索結果情報の中に、オリジナルでないコンテンツが多数あることを意味する。また、違法なデータが様々なサイトへ公開されている可能性が高く、データの公開を制限する緊急性が高い情報であると言える。

そのため、このような場合を違法性が高い状態としてアラームを検出することで、例えば、サイトの管理者が類似している検索結果情報を確認し、違法性を判定することを支援することができる。または、当該検索結果情報に該当するサイトの公開者へ違法性の確認や警告を通知することを支援できる。

また、本発明にかかる違法情報検出装置１では、予め、違法性を判定するコンテンツを登録しておく必要がない。現時点ですでに著作権やプライバシーを保護すべきコンテンツは、無数にあり、保護すべきコンテンツを予測し、これらを保護するために、予め何らかの保護機構、例えば、上述した特許文献２、特許文献４、又は特許文献７に登録しておくことは、困難である。

以上のことから、ネットワーク上に分散して公開される情報から様々な検索条件により検索された検索結果情報を用いることにより、複数のユーザの様々な観点による検索結果情報を対象とすることができ、その中にある同一なデータ、又は、類似しているデータを見つけ出し、類似しているデータの種類の数が多いほど、原データからコピーされた違法なデータである可能性が高いとして検出することができる。そのため、本発明により分散して公開される著作権やプライバシーを侵害するような違法性の高いデータを検出することができる。

＜実施例１＞
本実施の形態にかかる違法情報検出装置の実施例１として、以下に検索サーバの例を説明する。図３は、本発明の実施例１にかかる違法情報検出システムの全体構成を示すブロック図である。図３に示す違法情報検出システムは、検索サーバ１００と、クライアント４００とを備える。検索サーバ１００と、クライアント４００とは、インターネット等のネットワークに接続されている。

検索サーバ１００は、ネットワーク上に公開されたコンテンツを収集し、収集したコンテンツに対して検索サービスを当該ネットワークに接続されたクライアント４００等に提供するものである。また、検索サーバ１００は、検索要求に応じて、検索処理と共に、違法情報検出処理を行うものである。当該違法情報検出処理において、違法情報である可能性が検出された場合、検索結果に対して、検出された結果を反映する。例えば、検索結果に違法情報である旨を付加する、又は、違法情報として検出された検索結果を除くなどである。

検索サーバ１００は、インターネット等のネットワークに接続された汎用的なコンピュータシステムであり、図示しない構成として、ＣＰＵ、ＲＡＭ、ＲＯＭ、及び不揮発性記憶装置を備える。検索サーバ１００は、ＣＰＵがＲＡＭ、ＲＯＭ，又は不揮発性記憶装置に格納されたＯＳ、Ｗｅｂサーバプログラム、検索プログラム、及び、違法情報検出プログラムを読み込み、実行する。また、図３に示すように、検索サーバ１００は、違法情報検出部１ａと、検索エンジン部２と、検索対象データベース３とを備える。

検索エンジン部２は、検索処理を行うものであり、入力受付手段２１と、検索手段２２と、出力手段２３とを備える。

入力受付手段２１は、クライアント４００等からの検索条件が含む検索要求の入力を受け付ける。そして、入力受付手段２１は、検索手段２２へ当該検索条件を通知する。

検索手段２２は、入力受付手段２１から通知された検索条件に基づき、検索対象データベース３へ検索処理を実行する。また、検索手段２２は、検索対象データベース３からの検索結果を取得し、出力手段２３へ通知する。

出力手段２３は、検索手段２２から通知された検索結果と、違法性検出手段１５から通知された検出結果とから、検索結果を生成し、当該検索処理の要求元へ出力する。

尚、検索エンジンに関する技術は、公知技術としてよく知られているものであるから、ここでは詳細な説明を省略する。

検索対象データベース３は、検索手段２２による検索処理の検索対象となるデータ、すなわち、当該ネットワーク上に公開されたコンテンツ等が格納されたデータベースである。

尚、検索サーバ１００には、図示しない構成として、ネットワーク上を巡回して、検索対象となるコンテンツを収集し、検索対象データベース３へ格納する手段を有するものとする。または、検索サーバ１００は、別途、収集された検索対象データの入力を受け付け、検索対象データベース３へ格納するものであってもよい。

違法情報検出部１ａは、図１の違法情報検出装置１に対応するものであり、違法情報検出装置１の機能に加え、検索結果情報格納手段１６をさらに備えたものである。そのため、以下では、図１との違いを中心に説明し、図１と対応し同様の機能を有する構成については、説明を省略する。

検索結果情報格納手段１６は、検索手段２２により取得された検索結果を取得し、検索結果情報記憶部１１に格納するものである。

また、違法性検出手段１５は、違法情報検出部１ａにおける違法情報検出処理の結果を出力手段２３へ通知する。

尚、検索サーバ１００においては、違法情報検出部１ａと、検索エンジン部２と、検索対象データベース３とは、１台のコンピュータシステム内に存在する必要はなく、複数台のコンピュータシステムで構成されていてもよい。さらに、検索サーバ１００は、負荷分散のため、同機能を有するコンピュータシステムを並列に稼働させてもよい。

クライアント４００は、インターネット等のネットワークに接続された汎用的なコンピュータシステムであり、図示しない構成として、ＣＰＵ、ＲＡＭ、ＲＯＭ、及び不揮発性記憶装置を備える。クライアント４００は、ＣＰＵがＲＡＭ、ＲＯＭ，又は不揮発性記憶装置に格納されたＯＳ、及び、Ｗｅｂクライアントプログラムを読み込み、実行する。これにより、クライアント４００は、検索サーバ１００に対して、検索条件を含む検索要求を送信し、当該検索要求の応答である検索結果等を受信することができる。

次に、本発明の実施例１にかかる違法公開検出処理の全体の流れを図４に示すシーケンス図により説明する。まず、クライアント４００は、検索サーバ１００へ検索条件の入力を行う（Ｓ１０１）。具体的には、クライアント４００は、検索サーバ１００の検索エンジン部２に対して、検索条件を含む検索要求を送信する。

次に、検索サーバ１００は、検索条件に基づき、検索処理を行う（Ｓ１０２）。具体的には、検索サーバ１００の入力受付手段２１は、クライアント４００からの検索要求を受信し、当該検索要求に含まれる検索条件を抽出し、検索手段２２へ通知する。そして、検索手段２２は、入力受付手段２１から通知された検索条件を検索対象データベース３へ入力し、検索処理を実行する。

そして、検索サーバ１００は、検索結果を取得する（Ｓ１０３）。具体的には、検索サーバ１００の検索手段２２は、検索対象データベース３からの検索結果を取得し、出力手段２３へ通知する。

このとき、検索サーバ１００は、検索結果を格納する（Ｓ１０４）。具体的には、検索サーバ１００の検索結果情報格納手段１６は、検索手段２２から出力手段２３へ通知される検索結果を取得し、検索結果情報記憶部１１に格納する。

その後、検索サーバ１００は、違法情報検出処理を実行する（Ｓ１０５）。具体的には、検索サーバ１００の特徴抽出手段１２、類似度計算手段１４、及び違法性検出手段１５により、図２に示すような違法情報検出処理が行われる。

そして、検索サーバ１００は、違法情報検出処理の検出結果を取得する（Ｓ１０６）。具体的には、検索サーバ１００の違法性検出手段１５は、当該違法情報検出処理の検出結果を出力手段２３へ通知する。例えば、当該違法情報検出処理により、アラームが検出された場合、違法性検出手段１５は、該当する検索結果情報のリストをアラームと共に、出力手段２３へ通知する。また、当該違法情報検出処理により、アラームが検出されない場合、違法性検出手段１５は、違法性の高い情報なしである旨の情報を出力手段２３へ通知する。

その後、検索サーバ１００は、クライアント４００へ検索結果、及び検出結果を出力する（Ｓ１０７）。具体的には、検索サーバ１００の出力手段２３は、検索手段２２から通知された検索結果と、違法性検出手段１５から通知された検出結果とを取得する。そして、当該検出結果がアラームを含む場合、検索結果に違法情報である旨を付加するように検索結果を修正して、クライアント４００へ返信する。例えば、出力手段２３は、当該検出結果に含まれる検索結果情報に対応する検索結果に、違法情報であることを示すフラグを付加する。または、出力手段２３は、当該検出結果に含まれる検索結果情報に対応する検索結果を除外した検索結果を生成する。その後、出力手段２３は、生成した検索結果を、当該検索処理の要求元であるクライアント４００へ送信する。

このように、本発明の実施例１では、検索処理の都度、違法情報検出処理を行われるため、違法情報が広がり始めた段階で検出し、クライアント４００へ通知することができる。又は、検索結果から除外することで、違法性の高い情報にフィルタをかけて、違法性の高い情報の流出を未然に防ぐことができる。

また、本発明では、単純にあるデータ（検索結果）の検索回数をカウントするだけでなく、同じデータを異なるユーザが公開しているような場合でも、それらの種類数をカウントすることで、例えば、複数のユーザが類似した情報を別々にアップロードし、公開する状況や、著作権違反を指摘されて当該データを一旦削除した後、同一、又は別のユーザが再度公開するような状況にも対応できる。

＜実施例２＞
続いて、本実施の形態にかかる違法情報検出装置の実施例２として、以下に検索サーバの例を説明する。本発明の実施例２では、実施例１に比べ、検索条件をさらに用いて違法情報の検出を行い、検出の精度を高めるものである。

ここで、検索条件とは、任意の文字列データであり、一つの検索条件には、複数の単語が含まれるものとする。例えば、ある人物Ａの個人的な情報、例えば、経歴や個人的な交際関係の情報が本人の知らないところで（許可無く）インターネット上に公開された場合を考える。すなわち、人物Ａの個人情報を含む例えばテキスト文書が別の人物によってアップロードされたとする。このとき、人物Ａの個人情報に何らかの話題性、例えば、犯罪歴や有名人との交際履歴などがあれば、当該文書は様々な別文書に引用され、また高頻度で検索されることが考えられる。その場合、検索条件は、例えば、検索システムに対して行われる検索要求に含まれるクエリＤ「Ａ氏、過去、交際」、クエリＥ「過去、破局、俳優Ｂ」、クエリＦ「交際、俳優Ｂ、２０００年」などである。

図５は、本発明の実施例２にかかる違法公開検出システムの全体構成を示すブロック図である。図５に示す違法情報検出システムは、検索サーバ１０１と、クライアント４００とを備える。検索サーバ１０１と、クライアント４００とは、インターネット等のネットワークに接続されている。ここで、クライアント４００と、検索サーバ１０１における検索エンジン部２、及び検索対象データベース３とは、図３と同様のため、説明を省略する。以下では、図３との違いについてのみ説明する。

検索サーバ１０１は、図３の違法情報検出部１ａが違法情報検出部１ｂに置き換わったものである。違法情報検出部１ｂは、違法情報検出部１ａと比べ、検索条件格納手段１７と、検索条件記憶部１８とがさらに追加され、特徴抽出手段１２が特徴抽出手段１２ａに置き換わったものである。

検索条件格納手段１７は、入力受付手段２１により受け付けられた検索条件を取得し、検索条件記憶部１８に格納するものである。

検索条件記憶部１８は、上述した検索条件を記憶する。尚、検索条件記憶部１８は、ハードディスクドライブ、光磁気ディスクドライブ、フラッシュメモリ等の不揮発性の記憶装置でもよいし、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置であってもよい。また、検索条件記憶部１８は、違法情報検出装置１に外付けされる記憶装置であってもよい。

特徴抽出手段１２ａは、検索条件記憶部１８に格納された検索条件と、当該検索条件に対応する検索結果情報記憶部１１に格納された検索結果情報との組から特徴量を抽出し、当該特徴量と抽出元の検索結果情報とを対応付けて特徴量記憶部１３に格納する。ここで、特徴量は、検索条件Ｃ、及び検索結果情報Ｒに対する特徴量ベクトルＦ＝（ｃ１、ｃ２、…、ｃｍ、ｒ１、ｒ２、…、ｒｎ）で表される。尚、特徴量ベクトルの表現は、上述したものに限定されない。

図６は、本発明の実施例２にかかる違法公開検出処理の全体の流れを示すシーケンス図である。以下では、図４との違いを中心に説明し、図４と同様の処理については、詳細な説明を省略する。

まず、クライアント４００は、ステップＳ１０１と同様に、検索サーバ１００へ検索条件の入力を行う（Ｓ２０１）。次に、検索サーバ１００は、ステップＳ１０２と同様に、検索条件に基づき、検索処理を行う（Ｓ２０２）。

ここで、検索サーバ１００は、検索条件を格納する（Ｓ２０３）。具体的には、検索サーバ１００の検索条件格納手段１７は、入力受付手段２１から検索手段２２へ通知される検索条件を取得し、検索条件記憶部１８に格納する。

そして、検索サーバ１００は、ステップＳ１０３と同様に、検索結果を取得する（Ｓ２０４）。続いて、検索サーバ１００は、ステップＳ１０４と同様に、検索結果を格納する（Ｓ２０５）。

尚、ステップＳ２０３は、ステップＳ２０２で入力受付手段２１により検索要求に含まれる検索条件を抽出された後であれば、検索手段２２による検索処理の実行前に行われても構わない。または、ステップＳ２０３は、ステップＳ２０５の後に実行されても構わない。つまり、ステップＳ２０３は、後述するステップＳ２０６の違法情報検出処理の前に実行されていればよい。

その後、検索サーバ１００は、違法情報検出処理を実行する（Ｓ２０６）。具体的には、検索サーバ１００の特徴抽出手段１２ａ、類似度計算手段１４、及び違法性検出手段１５により、違法情報検出処理が行われる。ここでは、図２のステップＳ１１との違いとして、特徴抽出手段１２ａは、検索条件記憶部１８から検索条件、及び、検索結果情報記憶部１１から当該検索条件に対応する検索結果情報の組から特徴量を抽出する。以後、ステップＳ１２乃至Ｓ１５は、図２と同様の処理となる。

そして、検索サーバ１００は、ステップＳ１０６と同様に、違法情報検出処理の検出結果を取得する（Ｓ２０７）。その後、検索サーバ１００は、ステップＳ１０７と同様に、クライアント４００へ検索結果、及び検出結果を出力する（Ｓ２０８）。

このように、本発明の実施例２では、検索要求と検索結果の双方を特徴量として類似度計算することにより、検索結果のみを特徴量とした場合と比較して、より精度の高い検出が可能となる。

＜その他の実施例＞
尚、本実施例１、及び２では、違法性検出手段１５により類似とされた検索結果情報の種類数が一定量を超えた場合にアラームを検出するとしたが、検索結果情報の種類数とその検索結果情報の出現頻度、すなわち、検索のヒット件数がともに一定量を超える場合にもアラームを検出するようにしてもよい。つまり、検索結果のバリエーションが多岐に渡る場合だけでなく、同じ検索結果が繰り返し得られる場合にもアラームを検出することで、より高精度な検出が可能となる。例えば、類似のコンテンツが３箇所で公開され、１コンテンツあたり１０件の検索結果情報が得られている場合には、種類数は３となるが総検索結果の件数は、３０となり、より検出しやすくなると言える。

同様に、検索結果情報の時間情報を用い、ある一定時間内に行われた検索、又は、ある時刻に行われた検索を対象として検出を行うようにしてもよい。その場合、検索結果情報記憶部１１には、検索結果情報と共に、当該検索結果情報が検索された時刻情報を対応付けて格納されればよい。そして、特徴抽出手段１２、又は特徴抽出手段１２ａは、一定時間内、又は、ある時刻に該当する検索結果情報を処理対象とすることで実現可能である。これにより、より高精度な検出が可能となる。また、過去の検索結果情報の蓄積を再利用することで検出を行うようにしても良い。

また、本発明の実施例は、検索サーバに限定されない。例えば、図１の違法情報検出装置１は、サイトの管理者が違法情報検出のために用いてもよい。その場合、当該違法情報検出処理は、定期的、例えば、１日に１回実行され、当該１日の検索結果情報を対象として検出を行うようにすればよい。そして、緊急時に、任意のタイミングで当該違法情報検出処理を実行できるものであればよい。

近年、違法に公開された情報は、その伝搬が早く、より広範であり、違法に公開される情報を事前に予測することは困難である。そのため、本発明は、このような状況に適用可能である。

また、本発明は、コンテンツとしてのデータベースを持ち、インターネット等を利用して当該データベースを公開、及び共有するサービスといった用途に適用できる。

本発明により、インターネット上における違法なデータ公開から、著作権やプライバシーを保護することが可能となる。すなわち、不特定多数のユーザによって分散してアップロードされ公開されるような違法なデータを、当該データに対するアクセス集中ではなく、検索して得られる検索結果の種類数をカウントすることにより検出することで、違法なデータ公開を検出することが可能となる。その理由は、違法なデータであるために公開、削除、そして再公開が繰り返されるということは、同じデータ、又は少しずつ異なったデータが複数の場所に存在していると言える。そのため、同一、又は類似のデータの種類数（ＵＲＬなど）が多いことが違法性判定の重要な要素となるためである。

さらに、本発明は上述した実施の形態のみに限定されるものではなく、既に述べた本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。

本発明の実施の形態にかかる違法情報検出装置の構成を示すブロック図である。 本発明の実施の形態にかかる違法情報検出処理を示すフローチャート図である。 本発明の実施例１にかかる違法情報検索システムの全体構成を示すブロック図である。 本発明の実施例１にかかる違法公開検出処理の全体の流れを示すシーケンス図である。 本発明の実施例２にかかる違法公開検出システムの全体構成を示すブロック図である。 本発明の実施例２にかかる違法公開検出処理の全体の流れを示すシーケンス図である。

符号の説明

１ 違法情報検出装置
１ａ 違法情報検出部
１ｂ 違法情報検出部
１１ 検索結果情報記憶部
１２ 特徴抽出手段
１２ａ 特徴抽出手段
１３ 特徴量記憶部
１４ 類似度計算手段
１５ 違法性検出手段
１６ 検索結果情報格納手段
１７ 検索条件格納手段
１８ 検索条件記憶部
１００ 検索サーバ
１０１ 検索サーバ
２ 検索エンジン部
２１ 入力受付手段
２２ 検索手段
２３ 出力手段
３ 検索対象データベース
４００ クライアント

Claims (21)

1. ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出する違法情報検出装置であって、
   前記検索結果情報が格納される検索結果情報記憶部と、
   前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出し、当該特徴量と前記検索結果情報とを対応付けて特徴量記憶部へ格納する特徴抽出手段と、
   前記特徴量記憶部に格納された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算手段と、
   前記類似度計算手段により類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出手段と、を備える違法情報検出装置。
2. 前記違法情報検出装置は、前記検索条件に基づき検索された検索結果情報を取得し、前記検索結果情報記憶部へ格納する検索結果情報格納手段をさらに備える、請求項１に記載の違法情報検出装置。
3. 前記違法情報検出装置は、
   前記検索条件が格納される検索条件記憶部と、
   前記検索条件を取得し、前記検索条件記憶部へ格納する検索条件格納手段とをさらに備え、
   前記特徴抽出手段は、前記検索条件記憶部に格納された検索条件と、当該検索条件に対応する前記検索結果情報記憶部に格納された検索結果情報とから特徴量を抽出する、請求項２に記載の違法情報検出装置。
4. 前記検索結果情報記憶部は、前記検索結果情報の検索回数が前記検索結果情報と対応付けて格納され、
   前記違法性検出手段は、前記類似度計算手段により類似すると判定された検索結果情報の内、前記検索回数が所定値を超える検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する、請求項２又は３に記載の違法情報検出装置。
5. 前記検索結果情報記憶部は、前記検索結果情報の時刻情報が前記検索結果情報と対応付けて格納され、
   前記特徴抽出手段は、前記検索結果情報記憶部に格納された所定の時刻情報の範囲の検索結果情報から特徴量を抽出する、請求項２乃至４のいずれか１項に記載の違法情報検出装置。
6. 前記検索結果情報は、前記ネットワーク上に公開された情報であるコンテンツ、又は当該コンテンツに関する情報であることを特徴とする、請求項１乃至５のいずれか１項に記載の違法情報検出装置。
7. 前記特徴抽出手段は、前記検索結果情報の特徴量として文字ベクトル、単語ベクトル、ケプストラム、又は形状情報の少なくとも一つ以上を抽出することを特徴とする、請求項１乃至６のいずれか１項に記載の違法情報検出装置。
8. ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出する違法情報検出方法であって、
   前記検索結果情報から特徴量を抽出する特徴量抽出ステップと、
   前記特徴抽出ステップにより抽出された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算ステップと、
   前記類似度計算ステップにより類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出ステップと、を備える違法情報検出方法。
9. 前記検索条件に基づき検索された検索結果情報を取得し、検索結果情報記憶部へ格納する検索結果情報格納ステップをさらに備え、
   前記特徴抽出ステップは、前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出する、請求項８に記載の違法情報検出方法。
10. 前記検索条件を取得し、検索条件記憶部へ格納する検索条件格納ステップをさらに備え、
    前記特徴抽出ステップは、前記検索条件記憶部に格納された検索条件と、当該検索条件に対応する前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出する、請求項９に記載の違法情報検出方法。
11. 前記違法性検出ステップは、前記類似度計算ステップにより類似すると判定された検索結果情報の内、前記検索結果情報の検索回数が所定値を超える検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する、請求項９又は１０に記載の違法情報検出方法。
12. 前記特徴抽出ステップは、所定の時刻情報の範囲の前記検索結果情報から特徴量を抽出する、請求項９乃至１１のいずれか１項に記載の違法情報検出方法。
13. 前記検索結果情報は、前記ネットワーク上に公開された情報であるコンテンツ、又は当該コンテンツに関する情報であることを特徴とする、請求項８乃至１２のいずれか１項に記載の違法情報検出方法。
14. 前記特徴抽出ステップは、前記検索結果情報の特徴量として文字ベクトル、単語ベクトル、ケプストラム、又は形状情報の少なくとも一つ以上を抽出することを特徴とする、請求項８乃至１３のいずれか１項に記載の違法情報検出方法。
15. ネットワーク上に公開された情報について検索条件に基づき検索された検索結果情報の中から違法性の高い情報を検出する処理をコンピュータに実行させる違法情報検出プログラムであって、
    前記検索結果情報が格納される検索結果情報記憶部と、
    前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出し、当該特徴量と前記検索結果情報とを対応付けて特徴量記憶部へ格納する特徴抽出手段と、
    前記特徴量記憶部に格納された複数の特徴量からそれぞれの前記検索結果情報の間の類似度を計算し、当該類似度に基づき前記検索結果情報の間が類似するか否かを判定する類似度計算手段と、
    前記類似度計算手段により類似すると判定された検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する違法性検出手段と、を備える違法情報検出プログラム。
16. 前記違法情報検出プログラムは、前記検索条件に基づき検索された検索結果情報を取得し、前記検索結果情報記憶部へ格納する検索結果情報格納手段をさらに備える、請求項１５に記載の違法情報検出プログラム。
17. 前記違法情報検出プログラムは、
    前記検索条件が格納される検索条件記憶部と、
    前記検索条件を取得し、前記検索条件記憶部へ格納する検索条件格納手段とをさらに備え、
    前記特徴抽出手段は、前記検索条件記憶部に格納された検索条件と、当該検索条件に対応する前記検索結果情報記憶部に格納された検索結果情報から特徴量を抽出する、請求項１６に記載の違法情報検出プログラム。
18. 前記検索結果情報記憶部は、前記検索結果情報の検索回数が前記検索結果情報と対応付けて格納され、
    前記違法性検出手段は、前記類似度計算手段により類似すると判定された検索結果情報の内、前記検索回数が所定値を超える検索結果情報の数が所定値を超える場合、当該検索結果情報を違法性の高い情報として検出する、請求項１６又は１７に記載の違法情報検出プログラム。
19. 前記検索結果情報記憶部は、前記検索結果情報の時刻情報が前記検索結果情報と対応付けて格納され、
    前記特徴抽出手段は、前記検索結果情報記憶部に格納された所定の時刻情報の範囲の検索結果情報から特徴量を抽出する、請求項１６乃至１８のいずれか１項に記載の違法情報検出プログラム。
20. 前記検索結果情報は、前記ネットワーク上に公開された情報であるコンテンツ、又は当該コンテンツに関する情報であることを特徴とする、請求項１５乃至１９のいずれか１項に記載の違法情報検出プログラム。
21. 前記特徴抽出手段は、前記検索結果情報の特徴量として文字ベクトル、単語ベクトル、ケプストラム、又は形状情報の少なくとも一つ以上を抽出することを特徴とする、請求項１５乃至２０のいずれか１項に記載の違法情報検出プログラム。

Images