JP2000222431A

JP2000222431A - 文書分類装置

Info

Publication number: JP2000222431A
Application number: JP11026483A
Authority: JP
Inventors: Hiroyoshi Konaka; 裕喜小中
Original assignee: Mitsubishi Electric Corp
Current assignee: Mitsubishi Electric Corp
Priority date: 1999-02-03
Filing date: 1999-02-03
Publication date: 2000-08-11

Abstract

(57)【要約】【課題】未分類の文書を最適なカテゴリに分類して登
録することができなかった。【解決手段】前記格納手段の各カテゴリを特徴付ける
ための情報であって、前記カテゴリに格納された文書情
報のキーワード集合に含まれる割合が高いキーワードを
有する特徴パターンを前記格納手段の各カテゴリ毎に抽
出するとともに、前記抽出した特徴パターンに重みを付
与する抽出手段と、未だ分類されていない文書情報のキ
ーワード集合の一部または全部を含む特徴パターンをカ
テゴリ毎に収集する特徴パターン収集手段と、前記特徴
パターン収集手段により収集した特徴パターンのうち、
その重みが最も高い特徴パターンを抽出したカテゴリを
選定し、前記選定したカテゴリへ未だ分類されていない
文書情報を格納する選定手段とを備えたものである。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明はあらかじめ文書情報
を分類し格納したものの中に未だ分類がなされていない
文書情報（未分類文書情報と称す）を、その内容に適し
たカテゴリを選定した後、このカテゴリへ格納する文書
分類装置に関するものである。

【０００２】

【従来の技術】個々のキーワードの統計情報に基づいて
分類を行う技術としては、特開昭６３−２１４８３２号
公報、特開平１−１８８９３４号公報、特開平５−５４
０３７号公報、特開平５−３４２２７２号公報、特開平
６−７５９９５号公報などがある。これら公報に記載さ
れたものは、あるカテゴリに属する文書における個々の
キーワードの出現頻度といった情報をカテゴリへの貢献
度とするとともに、未分類文書情報に含まれる個々の単
語の貢献度をカテゴリごとに加算して各カテゴリへの関
連度とし、最大の関連度をもつカテゴリへと分類し、格
納するものである。また特開平８−２２１４３９号公報
はニューラルネットワークを利用して分類を行うもので
ある。

【０００３】分類決定木によるものとしては特開平５−
２３３７０６号公報、特開平５−２３４７２６号公報、
特開平９−１６５７０号公報などがある。これらの公報
に記載されたものは、キーワードやその他の文書情報の
有無をもとに分類を決定する木を予め構成しておき、そ
れを利用して分類を決定するものである。

【０００４】

【発明が解決しようとする課題】個々のキーワードの統
計情報に基づいて分類を行う場合、各キーワードのカテ
ゴリへの貢献度が加算される結果、分類に寄与したキー
ワードの組合せを判別するのが困難であり、利用者がそ
の分類の良否を判断することが難しい。また例えば複数
ある内のあるカテゴリ（例えばカテゴリAとする）には
キーワードa及びキーワードbを共に含む文書を、その他
のカテゴリ（つまりカテゴリＡ以外のカテゴリ）にはキ
ーワードaもしくはキーワードbのうちのいずれか一方と
共に他のキーワードを含むような文書を分類していて、
そこにキーワードa、キーワードb両方のキーワードを含
む未分類文書を分類する場合を考える。

【０００５】各キーワードの貢献度の算出において、キ
ーワードの総出現文書数に応じて重みが小さくなるよう
な重みづけの方法を用いている場合、キーワードa、キ
ーワードbの両方を含む未分類の文書情報のカテゴリAへ
の関連度が小さく算出され、その未分類の文書情報に含
まれるキーワードのうち総出現文書数が少ないキーワー
ドの貢献度に左右されて、他のカテゴリに分類されると
いった問題があった。

【０００６】一方、分類決定木を構成する方法では、冗
長性のない決定木を構成するため、例えば複数あるカテ
ゴリのうちのあるカテゴリ（カテゴリBとする）にある
いくつかのキーワード（キーワードａ、キーワードｂと
する）のいずれかを含む文書を分類しようとしたとき、
たまたま予めカテゴリBに分類された文書がキーワードb
を含むものばかりとなっていれば、決定木として例えば
キーワードbがあればカテゴリBに分類するというものが
構成され、キーワードaだけを含む文書を分類する知識
が得られないことになる。

【０００７】本発明の目的は、従来技術における上記の
ような問題点を解決するためになされたものであり、い
くつかのカテゴリに分類された文書情報集合と未分類文
書情報とが与えられ、キーワードの組合せで出現する場
合にも対応し、かつ適切な分類すべきカテゴリを選定し
格納することが可能となる文書分類装置を得ることであ
る。

【０００８】

【課題を解決するための手段】この発明に係る文書分類
装置は、文書番号および前記文書番号に対応する文書の
内容を特徴づけるキーワードを有するキーワード集合を
有する文書情報を対応するカテゴリに分類して格納する
格納手段と、前記格納手段の各カテゴリを特徴付けるた
めの情報であって、前記カテゴリに格納された文書情報
のキーワード集合に含まれる割合が高いキーワードを有
する特徴パターンを前記格納手段の各カテゴリ毎に抽出
するとともに、前記抽出した特徴パターンに重みを付与
する抽出手段と、未だ分類されていない文書情報のキー
ワード集合の一部または全部を含む特徴パターンをカテ
ゴリ毎に収集する特徴パターン収集手段と、前記特徴パ
ターン収集手段により収集した特徴パターンのうち、そ
の重みが最も高い特徴パターンを抽出したカテゴリを選
定し、前記選定したカテゴリへ未だ分類されていない文
書情報を格納する選定手段とを備えたことを特徴とする
ものである。

【０００９】この発明に係る文書分類装置は、抽出した
特徴パターンに付与する重みを、特徴パターンに対応す
るカテゴリに格納された全ての文書情報のうち、前記特
徴パターンを含むキーワード集合を有する文書情報の割
合としたことを特徴とするものである。

【００１０】この発明に係る文書分類装置は、抽出した
特徴パターンに付与する重みを、特徴パターンを含むキ
ーワード集合をもつ全カテゴリの文書のうち、当該特徴
パターンに対応するカテゴリに属する文書の割合とした
ことを特徴とするものである。

【００１１】この発明に係る文書分類装置は、格納手段
に格納した所定の文書情報の集合において、カテゴリの
特徴パターンに対する条件付きエントロピーを前記特徴
パターンに付与する重みとしたことを特徴とするもので
ある。

【００１２】この発明に係る文書分類装置は、抽出した
特徴パターンに付与する重みに前記特徴パターンを構成
するキーワード数を乗じたものを前記特徴パターンに付
与する重みとしたことを特徴とするものである。

【００１３】この発明に係る文書分類装置は、文書番号
および前記文書番号に対応する文書の内容を特徴づける
キーワードを有するキーワード集合を有する文書情報を
対応するカテゴリに分類して格納する格納手段と、前記
格納手段の各カテゴリを特徴付けるための情報であっ
て、前記カテゴリに格納された文書情報のキーワード集
合に含まれる割合が高いキーワードを有する特徴パター
ンを前記格納手段の各カテゴリ毎に抽出する抽出手段
と、未だ分類されていない文書情報のキーワード集合の
一部または全部を含む特徴パターンをカテゴリ毎に収集
する特徴パターン収集手段と、前記未だ分類されていな
い文書情報がカテゴリへ属するのが適切とするべき確率
を各カテゴリ毎に算出するとともに、前記確率が最も大
きなカテゴリを選定し、前記選定したカテゴリへ未だ分
類されていない文書情報を格納する選定手段とを備えた
ことを特徴とするものである。

【００１４】この発明に係る文書分類装置は、選定手段
は、前記特徴パターン収集手段により収集した特徴パタ
ーンのうち、その重みが高い特徴パターンを抽出したカ
テゴリまたは前記未だ分類されていない文書情報がカテ
ゴリへ属するのが適切とするべき確率が高い特徴パター
ンを抽出したカテゴリを選定し、前記選定手段により選
定したカテゴリの情報を表示するように構成したことを
特徴とするものである。

【００１５】この発明に係る文書分類装置は、入力した
特徴パターンが格納手段に格納された文書情報の中にあ
るかどうかを検索する文書情報検索手段を備えたことを
特徴とするものである。

【００１６】

【発明の実施の形態】実施の形態１．以下本発明の実施
の一形態を説明する。図１は実施の形態１の文書分類装
置を説明するための図である。図において、１０は格納
手段、２０は抽出手段、３０は特徴パターン収集手段、
選定手段、４０は選定手段、５０は文書情報入力手段で
ある。

【００１７】格納手段１０は、例えばハードディスク、
フィレキシブルディスク等のような磁気記録媒体、MOデ
ィスクなどのような光磁気記録媒体といったように高い
記憶容量を有する情報記憶媒体を有するものである。格
納手段１０は予めその内部にいくつかのカテゴリを有す
る。各カテゴリには予め文書に対応する番号を付与した
文書番号である文書ＩＤ、およびこの文書の内容を特徴
づけるキーワードを少なくとも１つ有するキーワード集
合を含む文書情報が格納されている。

【００１８】カテゴリへの分類は例えばK平均法など何
らかのクラスタリングアルゴリズムを用いたものでもよ
いし、あるいは人手で行ったものでもよい。格納データ
形式の簡単な例としては、例えば各カテゴリに文書ＩＤ１：キーワード1、キーワード２．．．文書ＩＤ２：キーワード1、キーワード２．．．というように、複数の文書情報を文書情報の集合として
１つのファイルとしたものなどがある。

【００１９】文書の内容そのものは、この文書の文書Ｉ
Ｄと対応づけて取り出せるように格納している。例え
ば、文書に対応する格納手段１０の各カテゴリに文書の
内容に関する情報を格納しても良いし、または格納手段
１０とは別体の格納手段（図示せず）に格納してもよ
い。

【００２０】キーワード集合は文書情報の内容から予め
人手で付与しておいてもよいし、予め機械（図示せず）
などにより文書情報の内容を解析し、その結果を利用し
て付与してもよい。また「コンピューター」、「計算
機」などを例えば「コンピュータ」という統一したキー
ワードとして表すというようにその意味が同じである用
語を１つの統一したキーワードとして表すようにすれ
ば、いわゆる表記ゆれ、同義語を考慮しかつ、統一した
キーワードの付与が可能となる。

【００２１】特徴パターン抽出手段２０は、格納手段１
０に格納された文書情報のキーワード集合から、各カテ
ゴリの文書情報を特徴づける1つもしくはそれ以上のキ
ーワードの連言である特徴パターンをカテゴリごとに抽
出するとともに、抽出した特徴パターンに重みを付与す
るものである。以上の処理は実際に未分類の文書情報を
与えられて分類を行う前に処理しておくことが可能であ
る。

【００２２】未分類文書入力手段５０は格納手段１０に
未だ分類されていない文書の文書情報（未分類文書情報
と称す）に含まれるキーワード集合を特徴パターン収集
手段３０へ送る。特徴パターン収集手段３０は、特徴パ
ターン抽出手段２０が抽出した特徴パターンのうち、未
分類文書情報のキーワード集合の一部または全部を含む
特徴パターンをカテゴリ毎に収集する。

【００２３】選定手段４０は特徴パターン収集手段によ
り収集した各カテゴリの特徴パターンのうち、その重み
が最大となるものを、そのカテゴリへの関連度とし、関
連度が最大のカテゴリを選定した後、選定したカテゴリ
へ未分類文書情報を格納する。

【００２４】このように構成することにより、未分類文
書情報を文書の内容に応じたカテゴリへ逐次格納するこ
とが可能となる。

【００２５】特徴パターン抽出手段２０により各カテゴ
リから抽出する特徴パターンとしては、例えばカテゴリ
の支持率が高い特徴パターン、カテゴリの確信度が高い
特徴パターン、これら２つがいずれも高い特徴パターン
等がある。

【００２６】ここで、支持率、確信度を以下のように定
義する。カテゴリの支持率とは、少なくとも１つのキー
ワードを有する特徴パターンを備えた文書情報に対し、
カテゴリに属する文書情報集合のうち、当該特徴パター
ンを構成する全てのキーワードを含むキーワード集合を
備えた文書情報の割合とする。カテゴリの確信度とは、
当該特徴パターンを構成する全てのキーワードを含むキ
ーワード集合を備えた文書情報を格納する全てのカテゴ
リのうち、当該カテゴリに属する文書情報の割合とす
る。このように支持率、確信度が高い特徴パターンはそ
のカテゴリに属する文書情報を特徴づけるもの情報とな
りうる。

【００２７】特徴パターン抽出手段２０より抽出した特
徴パターンとして例えば、格納する文書情報の数が５０
であるカテゴリCに対応して「コンピュータ」および
「ネットワーク」を共にキーワードとして有する特徴パ
ターンが支持率４０％、確信度８０％で抽出されたとす
る。これはカテゴリＣに格納された全文書情報のうち、
「コンピュータ」および「ネットワーク」というキーワ
ードを含むキーワード集合を有するものがカテゴリＣの
全文書情報のうちの４０％すなわち２０の文書情報がこ
れに相当し、それは格納手段１０の中の全カテゴリに格
納された文書情報の中で、「コンピュータ」および「ネ
ットワーク」というキーワードを含むキーワード集合を
有する文書情報のうちの８０％がカテゴリＣに格納され
た文書情報であることを意味する。

【００２８】実施の形態１では、特徴パターン抽出手段
２０は、例えばあるカテゴリにおいて、予め定められた
値以上の最小支持率と予め定められた値以上の最小確信
度とを有するものを特徴パターンとして抽出するものを
例に説明する。

【００２９】図２は、格納手段１０、特徴パターン抽出
手段２０の具体的な構成の一例を説明するための図であ
る。図において図１と同一の符号を付したものは同一ま
たはこれに相当するものである。図において、１１は、
文書ＩＤ、文書ＩＤに対応するキーワード集合をカテゴ
リに分類して、格納する記録部であり、記録部１１は例
えばハードディスク装置、ＭＯディスクまたはフロッピ
ーディスクなどを装着したディスク駆動装置などであ
る。１２は、記録部１１に記録された文書ＩＤ、文書Ｉ
Ｄに対応するキーワード集合をカテゴリ毎に読み出して
記憶するとともに、後述する制御部２１により指定され
たカテゴリに格納された文書ＩＤ、文書ＩＤに対応する
キーワード集合を有する文書情報を後述する候補パター
ン生成部２４に出力する文書情報記憶部である。

【００３０】また文書情報記憶部１２は、多支持パター
ン集合生成部２２または高確信度パターン出力部２３に
よりカテゴリとパターンが指定されると、指定されたカ
テゴリにおいて、指定されたパターンを含むキーワード
集合をが出現する文書情報の数を計算し、多支持パター
ン集合生成部２２または高確信度パターン出力部２３に
出力する。文書情報記憶部１２は、各文書情報におい
て、指定されたパターンが出現するか否かを検査する場
合、その文書情報を構成するキーワード集合の一部また
は全部がそのパターンに一致するか否かを検査する。

【００３１】したがって、この検査を効率的に行うため
に、ハッシュテーブルやハッシュ木を用いて各文書情報
のキーワード集合に対して部分集合となる可能性のある
パターンを絞り込んだり、各パターン、文書情報におい
てキーワード集合を整列したり、あるいはビットパター
ンで表すようにしてもよい。なお、文書情報記憶部１２
を所定のコンピュータネットワークに接続し、そのコン
ピュータネットワークを介して他の記録部から文書情報
を読み出すようにしてもよい。

【００３２】２４は、文書情報記憶部１２より供給され
たあるカテゴリの文書ＩＤに対応する各キーワードに対
し、１つのキーワードにより構成される候補パターンを
生成して、多支持パターン集合生成部２２に出力すると
ともに、多支持パターン集合生成部２２より供給され、
その多支持パターン集合の多支持パターンを構成するキ
ーワードの数をｎとしたとき、（ｎ−１）個のキーワー
ドが共通する任意の２つの多支持パターンから（ｎ＋
１）個のキーワードからなるパターンを生成し、そのパ
ターンの任意のｎ個のキーワードが多支持パターン集合
に含まれるものを候補パターンとして、新たな候補パタ
ーン集合を生成し、多支持パターン集合生成部２２に出
力する候補パターン集合生成部である。

【００３３】２２は、候補パターン集合生成部２４より
供給される各候補パターンについて、制御部２１により
指定されたカテゴリにおいて、その候補パターンが出現
する文書情報の数とそのカテゴリに属するすべての文書
情報の数との比である支持率を、文書情報記憶部１２を
利用して計算し、その支持率が所定のしきい値（または
最小支持率）以上であるパターンを新たな多支持パター
ンとして選択し、それらの多支持パターンの集合を高確
信度パターン出力部２３と候補パターン集合生成部２４
に出力する多支持パターン集合生成部である。

【００３４】２３は、多支持パターン集合生成部２２よ
り供給される各パターンについて、制御部２１により指
定されたクラスタにおいてそのパターンが出現する文書
情報の数とすべてのクラスタにおいてそのパターンが出
現する文書情報の数との比である確信度を、文書集合記
憶部１２を利用して計算し、多支持パターン集合生成部
２２より供給されたパターン集合から、確信度が所定の
最小確信度以上であるパターンを選択し、そのパターン
を出力する高確信度パターン出力部である。２１は、文
書集合記憶部１２、多支持パターン集合生成部２２、高
確信度パターン出力部２３、および候補パターン集合生
成部２４を制御する制御部である。

【００３５】図２に示すように構成すれば、多支持パタ
ーン集合生成部２２より支持率の高い特徴パターンを抽
出することができ、高確信度パターン出力部２３より確
信度の高い特徴パターンを抽出することができる。

【００３６】このように支持率、確信度が高い特徴パタ
ーンはそのカテゴリに属する文書情報を特徴づけるもの
情報となりうる。未分類文書情報に対応する文書ＩＤ、
これに対応するキーワード集合を適切なカテゴリへ分類
するのに有用であるばかりか、キーワード検索を行う場
合において、キーワードの内容に関連するカテゴリを優
先して検索するようにすれば、検索時間の短縮が可能と
なる。

【００３７】一般に、抽出する支持率のしきい値（最小
支持率）と抽出する確信度のしきい値（最小確信度）を
与えた場合、あるカテゴリに対応する特徴パターンは複
数のものが抽出される。しかしながら、最小支持率また
は最小確信度が高過ぎると特徴パターンが一つも抽出で
きない場合も考えられる。逆に最小支持率または最小確
信度が低過ぎると特徴パターンの抽出に時間がかかる
か、または必要以上に多くの特徴パターンが抽出されや
すくなる。

【００３８】従って、最小支持率、最小確信度を予め高
い値に設定し、特徴パターンに対応するカテゴリの抽出
ができなければ、適切な数の特徴パターンの抽出ができ
るまで最小支持率、最小確信度を徐々に小さくするする
ように構成するのが望ましい。また特徴パターンの抽出
において、特徴パターンに含まれるキーワードの数を制
限することにより、あまりに複雑なパターンの抽出を抑
制することが可能である。

【００３９】特徴パターン抽出手段２０は抽出した各特
徴パターンに対し、相互比較可能な重みを与える。カテ
ゴリＣ_iにおいて抽出された個々の特徴パターンｐ_ijの
重みｗ_ijとしては、カテゴリＣ_iに対する特徴パターン
ｐ_ijの支持率、確信度、または条件つきエントロピーを
用いることなどが考えられる。または、カテゴリＣ_iに
おいて抽出された個々の特徴パターンｐ_ijの重みｗ_ijと
して、特徴パターンｐ_ijを構成するキーワードの数その
ものをカテゴリＣ_iの個々の特徴パターンｐ_ijの重みｗ
_ijとしてもよい。

【００４０】ここで、格納手段１０に格納された所定の
文書情報の集合を文書集合Ｄとする。文書集合Ｄは格納
手段１０に格納された一部または全ての文書情報であ
る。文書集合ＤにおけるカテゴリＣ_iのパターンｐに対
する条件付エントロピーＥｎｔ_i (Ｄ｜ｐ)とすると、

【００４１】

【数１】

【００４２】ここで、Ｄ_pは文書集合Ｄのうちパターン
ｐをキーワード集合の一部に含む文書の集合であり、

【００４３】

【数２】

【００４４】とする。ここで、Ｅｎｔ_i（Ｄ）は文書集
合ＤにおけるクラスタＣ_iのエントロピーであり、

【００４５】

【数３】

【００４６】とすると、（３ａ）、（３ｂ）よりＥｎｔ
_i（Ｄ）は次式で表される。

【００４７】

【数４】

【００４８】以上いずれかの指標に従って、特徴パター
ン抽出手段２０は抽出した各特徴パターンに重みを付与
していく。以上の処理は実際に未分類文書情報を与えら
れて分類を行う前に処理しておくことが可能である。

【００４９】特徴パターン収集手段３０は、未分類文書
情報のキーワード集合の一部または全部を含む特徴パタ
ーンをカテゴリごとに収集する。例えばカテゴリCの特
徴パターンとして「コンピュータ」および「ネットワー
ク」からなるものを特徴パターンとするもの、「コンピ
ュータ」および「制御」からなるものを特徴パターンと
するもの、「コンピュータ」を特徴パターンとするもの
が抽出されていて、未分類の文書情報のキーワード集合
が「コンピュータ、プロセッサ、ネットワーク、計算、
プログラム」であるとする。このとき、特徴パターン収
集手段３０は、「コンピュータ」および「ネットワー
ク」と「コンピュータ」が未分類の文書情報のキーワー
ド集合に関連するカテゴリCの特徴パターンとして収集
する。

【００５０】選定手段４０は特徴パターン収集手段３０
により収集した各カテゴリの特徴パターンのうち、その
重みが最大となるものを、そのカテゴリへの関連度と
し、関連度が最大となるカテゴリを選定した後、選定し
たカテゴリへ未分類の文書情報を格納する。

【００５１】例えば特徴パターンの重みとして確信度を
用いていて、特徴パターン収集手段３０が収集した特徴
パターンがカテゴリCに対応する確信度８０％の「コン
ピュータ」および「ネットワーク」に対応する特徴パタ
ーン、同じくカテゴリCで確信度５０％の「コンピュー
タ」に対応する特徴パターン、そしてカテゴリDで確信
度６０％の「プロセッサ」に対応する特徴パターンであ
れば、選定手段４０は未分類文書情報を格納手段１０の
カテゴリの１つであるカテゴリCへ格納する。

【００５２】このように実施の形態1によれば、各カテ
ゴリの文書情報を特徴づける1つもしくはそれ以上のキ
ーワードを有する特徴パターンをカテゴリごとに抽出
し、この抽出した特徴パターンに相互比較可能な重み
（例えば、支持率、確信度、条件付きエントロピー、特
徴パターンの重みにキーワード数を乗じたもの等）を与
えておき、各カテゴリより抽出された複数の特徴パター
ンに付与した重みのうち、その値が最大となるものをカ
テゴリへの関連度とし、この関連度が最大であるカテゴ
リを選択し、選択したカテゴリへ未分類文書の分類を行
うことにより、重みが最大となる特徴パターンを格納す
るカテゴリを選択し、このカテゴリへ未分類の文書情報
を格納することが可能となる。

【００５３】更に格納された文書情報の集合から各カテ
ゴリの文書情報を特徴づけるキーワードの組合せパター
ンを抽出し、それを利用して分類するので、キーワード
が組合せで出現する場合にも対応することが可能である
とともに、分類の根拠がキーワードの組合せパターンで
あるため、利用者にとっても直観的に理解しやすく、分
類の良否の判断が容易になる。

【００５４】個々の特徴パターンに付与する重みとして
確信度を用いた場合、その特徴パターンを含むキーワー
ド集合を有する文書情報が偏って格納されているカテゴ
リへる未分類の文書情報が格納される。

【００５５】また、複数のカテゴリにおいて同一の特徴
パターンが収集された場合、個々のカテゴリで抽出され
た特徴パターンの重みとして支持率を用いれば、あるカ
テゴリにおいて最も出現する文書情報の割合が高い特徴
パターンに対応したカテゴリへ未分類の文書情報が格納
される。

【００５６】また、個々の特徴パターンに付与する重み
として条件つきエントロピーを用いる場合、支持率と確
信度との両方を考慮することに相当する。これは、カテ
ゴリにおいて出現する文書情報の割合も高く、また他の
カテゴリにはあまり出現しないような特徴パターンに対
応したカテゴリへ未分類の文書情報が格納される。よっ
て、未分類の文書情報のキーワード集合に含まれるキー
ワードが多く格納されているカテゴリであって、未分類
の文書情報のキーワード集合に含まれるキーワードを含
む文書情報の割合が高いカテゴリへ格納することができ
るので、未分類の文書情報をより適切なカテゴリへ格納
することができる。

【００５７】また、上述したいずれかの各特徴パターン
の重みと、この特徴パターンを構成するキーワードの数
とを乗じ、これを新たな重みとし、選定手段はこの新た
な重みが最大なものに対応する特徴パターンを格納する
カテゴリを選定するように構成すれば、特徴パターンを
構成するキーワードの数が多い特徴パターンに対応する
カテゴリへ未分類の文書情報が格納される。

【００５８】実施の形態２．特徴パターン抽出手段２０
は、格納手段１０に格納された文書情報集合から、各カ
テゴリを特徴づける特徴パターンをカテゴリごとに抽出
した後、実施の形態１のように各特徴パターンに重みを
付与するのではなく、各特徴パターンを含む文書情報の
数を、対応するカテゴリとその他の全カテゴリの合計に
ついてそれぞれ付与し、選定手段４０は未分類文書があ
るカテゴリに属するのが適切とするべき確率（推定確率
と称す）を算出するとともに、この推定確率をそのカテ
ゴリへの関連度とし、関連度が最大のカテゴリに未分類
文書を格納するように構成したことを特徴とするもので
ある。

【００５９】各カテゴリにおける推定確率は以下のよう
に計算する。まず、あるカテゴリにおいて、未分類の文
書情報に含まれるキーワードに対応する特徴パターンが
全く収集されなければ、推定確率は0とする。次に、特
徴パターンが1つしか収集されなければ、その確信度が
そのまま推定確率として用いられる。一方、あるカテゴ
リに対応して複数の特徴パターンが収集された場合、当
該カテゴリに対する推定確率を計算する方法として、さ
まざまなものが考えられる。

【００６０】例えば、各特徴パターンの確信度を推定確
率とするような構成の場合は、実施の形態１において説
明したものの一例と同じになる。

【００６１】別の方法として、あるカテゴリに対応して
収集された複数の特徴パターンが同時に出現しているこ
とに着目した推定方法が考えられる。以下にその推定方
法を示す。

【００６２】まず単純なケースとして、格納手段に格納
されている文書情報の数がＮである文書情報の集合Ｄの
中のカテゴリＣ_iにおいて、キーワードaからなる特徴パ
ターンｐ_aとキーワードbからなる特徴パターンｐ_bが収
集されたとする。また、各特徴パターンを含むキーワー
ド集合を持つ文書情報の集合をそれぞれＤ_pa、Ｄ_pbと
し、

【００６３】

【数５】

【００６４】とする。このときパターンｐ_aとｐ_bとを同
時に含む未分類文書がカテゴリＣ_iに属する推定確率は
以下のように表される。

【００６５】

【数６】

【００６６】但し、Ｎ（Ｘ）は文書情報の集合Ｘに属す
る文書の数とする。ここで、例えばＮ（Ｃ_i∩D_pa∩
Ｄ_pb）は実際に文書情報の中から算出することも可能だ
が、そのような文書情報がたまたま存在しない場合もあ
り、また存在したとしても文書情報の数が小さくて統計
的に意味を持たない場合がある。ここでは、対応するカ
テゴリとその他の全カテゴリにおける各特徴パターンの
出現文書数から、間接的に算出する方法を考える。その
ための仮定として、Ｄ_pa及びＤ_pbがＣ_i及び

【００６７】

【数７】

【００６８】においてそれぞれ独立であるとする。この
とき、

【００６９】

【数８】

【００７０】となり、上記条件つき確率は各特徴パター
ンの対応するカテゴリとその他の全カテゴリにおける出
現文書数及び各カテゴリの総文書数から

【００７１】

【数９】

【００７２】のように計算できるため、これを用いると
Ｐ（Ｃ_i｜Ｄ_pa∩Ｄ_pb）は、

【００７３】

【数１０】

【００７４】ただし、

【００７５】

【数１１】

【００７６】とする。このように（９）式により推定確
率を求めることが可能となる。

【００７７】次にあるカテゴリにおいて収集された特徴
パターンのうちの少なくとも1つが複数のキーワードを
有するような場合を考える。複数の特徴パターンが重複
した構成キーワードを持っていない場合は、上記と同様
に考えればよい。重複したキーワードを持っている場合
は、そのキーワードが上記確率にどの程度寄与するかを
考慮する必要がある。

【００７８】例えばカテゴリＣ_iにおいてキーワードc、
dからなる特徴パターンｐ_c,dとキーワードｃ、ｅ、ｆか
らなる特徴パターンp_c,e,fが収集されたとする。このと
き（９）式に従ってそのまま計算するとキーワードcの
寄与分が重複して考慮されることになる。これを避ける
ためには、各キーワードによる寄与分をそれぞれ考慮す
る必要があるが、その推定を容易にするための仮定とし
て、例えばある特徴パターンにおける各キーワードはそ
れぞれ独立しており、それぞれの寄与は均等であるとす
る。この仮定によれば特徴パターンp_c,dに含まれるキー
ワードｃ、ｄの（９）式に対する寄与は

【００７９】

【数１２】

【００８０】となる。同様に特徴パターンp_c,e,fにおい
てはキーワードｃ、ｅ、ｆの寄与は

【００８１】

【数１３】

【００８２】と計算される。あるキーワードが収集され
た複数の特徴パターンに含まれる時、そのキーワードの
寄与は例えばそれぞれの特徴パターンにおいて算出され
た寄与の最大値とする。このようにしてあるカテゴリＣ
_iにおいて収集された特徴パターンｐに含まれるすべて
のキーワードｋについてそれぞれの寄与Ｒ_i（ｋ）を上
記により計算すれば、推定確率は

【００８３】

【数１４】

【００８４】と計算される。このように実施の形態2に
よれば、未分類文書情報に応じてカテゴリごとに収集さ
れた特徴パターンから、未分類文書が各カテゴリに属す
るのが適切とするべき推定確率を各カテゴリごとに算出
し、推定確率が最大となるカテゴリを選定し、このカテ
ゴリへ未分類の文書情報を格納するようにしたので、未
分類の文書情報を適切なカテゴリへ格納することができ
る。特にカテゴリごとに収集された特徴パターンの構成
キーワードまで考慮した推定確率を算出するようにすれ
ば、実施の形態1より計算量は大きくなるものの、従来
頻出しなかった新たなキーワードの組合せにも対応した
分類が可能となる。

【００８５】実施の形態３．図３は実施の形態3の文書
分類装置の構成を説明するための図である。図におい
て、図１、２と同一の符号を付したものは同一またはこ
れに相当するものである。６０は分類決定インタフェー
ス、７０は文書情報検索手段である。分類決定インタフ
ェース５０は、表示画面を有し、表示画面には選定手段
４０が選定したカテゴリと、その選定に関する情報、例
えば各カテゴリに対して収集された特徴パターン、特徴
パターンに対する重み、または未分類の文書情報とカテ
ゴリとの関連度等を表示するものである。利用者はその
表示された情報をもとに最終的に分類すべきカテゴリを
決定する。また、利用者は必要に応じて特徴パターンを
選択して文書情報検索手段７０に送出し、その結果を参
照することが可能である。

【００８６】文書情報検索手段７０は与えられた特徴パ
ターンを含むキーワード集合をもつ文書情報を格納手段
１０に格納された文書情報の集合から検索し、結果を分
類決定インタフェース６０に表示する。必ずしも必要で
はないが、検索対象を特定のカテゴリに絞ったり、複数
の特徴パターンに関するAND検索、OR検索などが実行可
能であれば、より効率のよい検索を行うことが可能とな
る。

【００８７】このように実施の形態3によれば、利用者
が分類選定に関する情報を参照しながら、分類を最終的
に決定することが可能である。特に、各カテゴリで収集
された特徴パターンはキーワードの連言であり、利用者
にとって直観的にわかりやすいため、必要に応じて特徴
パターンによる文書情報検索を行いながら、各カテゴリ
の特徴を把握した上で分類を最終的に決定することが可
能である。

【００８８】上述した各実施の形態は、本発明の実施の
一形態として示したものであり、本発明はこれらに限定
されるべきものではない。本願発明は特許請求の範囲に
記載されたもの、またはその均等物を含むものである。

【００８９】

【発明の効果】この発明に係る文書分類装置によれば、
文書番号および前記文書番号に対応する文書の内容を特
徴づけるキーワードを有するキーワード集合を有する文
書情報を対応するカテゴリに分類して格納する格納手段
と、前記格納手段の各カテゴリを特徴付けるための情報
であって、前記カテゴリに格納された文書情報のキーワ
ード集合に含まれる割合が高いキーワードを有する特徴
パターンを前記格納手段の各カテゴリ毎に抽出するとと
もに、前記抽出した特徴パターンに重みを付与する抽出
手段と、未だ分類されていない文書情報のキーワード集
合の一部または全部を含む特徴パターンをカテゴリ毎に
収集する特徴パターン収集手段と、前記特徴パターン収
集手段により収集した特徴パターンのうち、その重みが
最も高い特徴パターンを抽出したカテゴリを選定し、前
記選定したカテゴリへ未だ分類されていない文書情報を
格納する選定手段とを備えたので、未だ分類されていな
い文書情報を適切なカテゴリへ格納することができる。

【００９０】この発明に係る文書分類装置によれば、抽
出した特徴パターンに付与する重みを、特徴パターンに
対応するカテゴリに格納された全ての文書情報のキーワ
ード集合うち、前記特徴パターンを含むキーワード集合
を有する文書情報の割合としたので、未だ分類されてい
ない文書情報を適切なカテゴリへ格納することができ
る。

【００９１】この発明に係る文書分類装置によれば、抽
出した特徴パターンに付与する重みを、特徴パターンを
含むキーワード集合をもつ全カテゴリの文書のうち、当
該特徴パターンに対応するカテゴリに属する文書の割合
としたので、未だ分類されていない文書情報を適切なカ
テゴリへ格納することができる。

【００９２】この発明に係る文書分類装置によれば、格
納手段に格納した所定の文書情報の集合において、カテ
ゴリの特徴パターンに対する条件付きエントロピーを前
記特徴パターンに付与する重みとしたので、未だ分類さ
れていない文書情報をより適切なカテゴリへ格納するこ
とができる。

【００９３】この発明に係る文書分類装置によれば、抽
出した特徴パターンに付与する重みに前記特徴パターン
を構成するキーワード数を乗じたものを前記特徴パター
ンに付与する重みとしたので、未だ分類されていない文
書情報をより適切なカテゴリへ格納することができる。

【００９４】この発明に係る文書分類装置によれば、文
書番号および前記文書番号に対応する文書の内容を特徴
づけるキーワードを有するキーワード集合を有する文書
情報を対応するカテゴリに分類して格納する格納手段
と、前記格納手段の各カテゴリを特徴付けるための情報
であって、前記カテゴリに格納された文書情報のキーワ
ード集合に含まれる割合が高いキーワードを有する特徴
パターンを前記格納手段の各カテゴリ毎に抽出する抽出
手段と、未だ分類されていない文書情報のキーワード集
合の一部または全部を含む特徴パターンをカテゴリ毎に
収集する特徴パターン収集手段と、前記未だ分類されて
いない文書情報がカテゴリへ属するのが適切とするべき
確率を各カテゴリ毎に算出するとともに、前記確率が最
も大きなカテゴリを選定し、前記選定したカテゴリへ未
だ分類されていない文書情報を格納する選定手段とを備
えたので、未だ分類されていない文書情報をより適切な
カテゴリへ格納することができる。

【００９５】この発明に係る文書分類装置によれば、選
定手段は、前記特徴パターン収集手段により収集した特
徴パターンのうち、その重みが高い特徴パターンを抽出
したカテゴリまたは前記未だ分類されていない文書情報
がカテゴリへ属するのが適切とするべき確率が高い特徴
パターンを抽出したカテゴリを選定し、前記選定手段に
より選定したカテゴリの情報を表示するように構成した
ので、装置を使用するものが選定したカテゴリに対し適
宜判断することが可能となる。

【００９６】この発明に係る文書分類装置は、入力した
特徴パターンが格納手段に格納された文書情報の中にあ
るかどうかを検索する文書情報検索手段を備えたので、
装置を利用するものは特徴パターンによる文書情報検索
を行いながら、各カテゴリの特徴を把握した上で分類を
最終的に決定することが可能である。

【図面の簡単な説明】

【図１】実施の形態１の文書分類装置を説明するため
の図である。

【図２】実施の形態１の文書分類装置を説明するため
の図である。

【図３】実施の形態１の文書分類装置を説明するため
の図である。

【符号の説明】

１０：格納手段２０：抽出
手段３０：特徴パターン収集手段４０：選定
手段５０：未文書情報入力手段

Claims

【特許請求の範囲】

【請求項１】文書番号および前記文書番号に対応する
文書の内容を特徴づけるキーワードを有するキーワード
集合を有する文書情報を対応するカテゴリに分類して格
納する格納手段と、前記格納手段の各カテゴリを特徴付けるための情報であ
って、前記カテゴリに格納された文書情報のキーワード
集合に含まれる割合が高いキーワードを有する特徴パタ
ーンを前記格納手段の各カテゴリ毎に抽出するととも
に、前記抽出した特徴パターンに重みを付与する抽出手
段と、未だ分類されていない文書情報のキーワード集合の一部
または全部を含む特徴パターンをカテゴリ毎に収集する
特徴パターン収集手段と、前記特徴パターン収集手段により収集した特徴パターン
のうち、その重みが最も高い特徴パターンを抽出したカ
テゴリを選定し、前記選定したカテゴリへ未だ分類され
ていない文書情報を格納する選定手段とを備えたことを
特徴とする文書分類装置。
【請求項２】抽出した特徴パターンに付与する重み
を、特徴パターンに対応するカテゴリに格納された全ての文
書情報のうち、前記特徴パターンを含むキーワード集合
を有する文書情報の割合としたことを特徴とする請求項
１に記載の文書分類装置。
【請求項３】抽出した特徴パターンに付与する重み
を、特徴パターンを含むキーワード集合をもつ全カテゴリの
文書のうち、当該特徴パターンに対応するカテゴリに属
する文書の割合としたことを特徴とする請求項１に記載
の文書分類装置。
【請求項４】格納手段に格納した所定の文書情報の集
合において、カテゴリの特徴パターンに対する条件付きエントロピー
を前記特徴パターンに付与する重みとしたことを特徴と
する請求項１に記載の文書分類装置。
【請求項５】抽出した特徴パターンに付与する重みに
前記特徴パターンを構成するキーワード数を乗じたもの
を前記特徴パターンに付与する重みとしたことを特徴と
する請求項２から４のいずれか１項に記載の文書分類装
置。
【請求項６】文書番号および前記文書番号に対応する
文書の内容を特徴づけるキーワードを有するキーワード
集合を有する文書情報を対応するカテゴリに分類して格
納する格納手段と、前記格納手段の各カテゴリを特徴付けるための情報であ
って、前記カテゴリに格納された文書情報のキーワード
集合に含まれる割合が高いキーワードを有する特徴パタ
ーンを前記格納手段の各カテゴリ毎に抽出する抽出手段
と、未だ分類されていない文書情報のキーワード集合の一部
または全部を含む特徴パターンをカテゴリ毎に収集する
特徴パターン収集手段と、前記未だ分類されていない文書情報がカテゴリへ属する
のが適切とするべき確率を各カテゴリ毎に算出するとと
もに、前記確率が最も大きなカテゴリを選定し、前記選
定したカテゴリへ未だ分類されていない文書情報を格納
する選定手段とを備えたことを特徴とする文書分類装
置。
【請求項７】選定手段は、前記特徴パターン収集手段
により収集した特徴パターンのうち、その重みが高い特
徴パターンを抽出したカテゴリまたは前記未だ分類され
ていない文書情報がカテゴリへ属するのが適切とするべ
き確率が高い特徴パターンを抽出したカテゴリを選定
し、前記選定手段により選定したカテゴリの情報を表示する
ように構成したことを特徴とする請求項１から６のいず
れかに記載の文書分類装置。
【請求項８】入力した特徴パターンが格納手段に格納
された文書情報の中にあるかどうかを検索する文書情報
検索手段を備えたことを特徴とする請求項７に記載の文
書分類装置。