JP3059504B2 - 品詞選択システム - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は自然言語処理技術に関
し、更に詳しくは文章（テキスト）中の各単語の品詞の
種類を自動的に選択するようにした品詞選択システムに
関する。

【０００２】近年、音声合成の研究が進み、読み上げシ
ステム，応答システム等のさまざまな分野で利用され始
めている。合成音声の自然性を向上せさるためには、出
力する文章の言語情報を抽出し、それに応じたアクセン
トやイントネーションを生成するパターンを生成する必
要がある。そのような言語情報の基礎をなすのが品詞で
ある。品詞とは、名詞，動詞，副詞等の単語の種類をい
う。音声合成システムは、携帯性（ポータビリティ）が
要求されていることから、文章の中の単語の品詞を簡便
に抽出できるシステムが強く望まれている。

【０００３】

【従来の技術】最近、文章の中の単語の品詞を統計的な
情報を利用して決定する方式が用いられてきている。こ
れは、例えば“Ａ Ｓｔｏｃｈａｓｔｉｃ Ｐａｒｔｓ
Ｐｒｏｇｒａｍ ａｎｄ Ｎｏｕｎ Ｐｈｒａｓｅ
Ｐａｓｅｒ ｆｏｒ Ｕｎｒｅｓｔｒｉｃｔｅｄ Ｔｅ
ｘｔ”（ＡＣＬ ｐｒｏｃｅｅｄｉｎｇｓ ２ｎｄ Ａ
ｐｐｌｉｅｄ Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐ
ｒｏｃｅｓｓｉｎｇ）に示されているように、与えられ
た単語がある品詞をとる確率である語彙確率と品詞並び
の出現頻度を示す文脈確率を用いて文章中の各単語の品
詞を決定するものである。

【０００４】図１９は従来装置の構成例を示すブロック
図である。図において、１は入力テキストを受けて、単
語毎の語彙確率を検索する語彙確率検索部、２は語彙と
該語彙の確率が格納され、前記語彙検索部１の検索の対
象となる語彙確率辞書、３は語彙確率検索部１の出力を
基に、各単語の品詞並びを作成する品詞並び作成部であ
る。

【０００５】４は前記語彙確率検索部１から検索された
語彙確率を基に、複数個の品詞並びの文脈確率を検出す
る文脈確率検出部、５は品詞並びの文脈確率を格納して
いる文脈確率テーブル、６は前記文脈確率検出部４の出
力を受けて、複数個の品詞並びの文脈確率と該品詞並び
の先頭たは末尾の単語の語彙確率から評価値を算出する
評価値算出部である。このように構成された装置の動作
を説明すれば、以下のとおりである。

【０００６】先ず、語彙確率検索部１は入力テキスト
（文章）を入力し、各単語毎の語彙確率を語彙確率辞書
２から読み込む。例えば、入力テキストが Ｉ ｌｏｖｅ ｈｅｒ ｖｅｒｙ ｍｕｃｈ． という文章であったものとする。ここでは、単語の品詞
並びのカデゴリとして３単語品詞並びを考える。語彙確
率検索部１は、この文章を構成している各単語の語彙確
率を語彙確率辞書２から抽出する。

【０００７】語彙確率辞書２は、例えば図２０に示すよ
うな構成となっている。図に示す内容は、入力された文
章の単語のみを抽出したものであり、実際にはアルファ
ベット順に全ての単語が品詞の種類毎の出現確率として
格納されている。

【０００８】ここでは、文章の後から処理していく場合
を考える。

【０００９】品詞並び作成部３は、先ず、文章のピリオ
ド“．＃＃”に対する（Ｚ＃＃）という品詞並びを作成
し、文脈確率検出部４に与える。ここで、＃は文末また
は文頭を示す記号である。該文脈確率検出部４は、文脈
確率テーブル５から（Ｚ＃＃）なる品詞並びの文脈確率
を抽出してくる。文脈確率テーブル５には３個の品詞の
組み合わせになるあらゆるパターンについての出現確率
が文脈確率として格納されている。

【００１０】図２１は文脈確率テーブルの構成例を示す
図である。図ではその一部のみを示している。また、こ
こでは品詞並びとして英語の場合、最も分類しやすい３
単語品詞並びを用いている。それぞれの品詞並びの組み
合わせがとり得る確率は、大量の文章を参考にして、そ
のとり得る確率を統計的に求めたものである。

【００１１】評価値算出部６は、（Ｚ＃＃）なる品詞並
びの文脈確率と（．Ｚ）の語彙確率とを乗算して評価値
とする。例えば、（Ｚ＃＃）の文脈確率が０．９８３，
（．Ｚ）の語彙確率が１．００であれば、その評価値は
０．９８３となる。

【００１２】次に、品詞並び作成部３は、単語並び“ｍ
ｕｃｈ．＃”に対する考えられる組合わせの品詞並び
（ＡＤＪ Ｚ ＃），（ＮＯＵＮ Ｚ ＃），（ＡＤＶ
Ｚ＃）を作成する。文脈確率検出部４は、これら品詞
並び（ＡＤＪ Ｚ ＃），（ＮＯＵＮ Ｚ ＃），（Ａ
ＤＶ Ｚ ＃）に対する文脈確率を文脈確率テーブル５
から抽出する。ここで、ＡＤＪは形容詞，ＮＯＵＮは名
詞，ＡＤＶは副詞である。図２４に品詞の分類を示す。
英語の場合、図に示すように、品詞の種類には２０通り
あり、ここではそれぞの品詞について、図のような品詞
記号を用いるものとする。

【００１３】評価値算出部６は、それぞれの品詞並びの
場合において、“ｍｕｃｈ”がＡＤＪをとる場合，ＮＯ
ＵＮをとる場合及びＡＤＶをとる場合の文脈確率と語彙
確率とそれまでの対応する累積評価値を乗算して評価値
を算出する。

【００１４】次に、品詞並び作成部３は単語並び“ｖｅ
ｒｙ ｍｕｃｈ．”に対する品詞並び（ＡＤＶ ＡＤＪ
Ｚ），（ＡＤＶ ＮＯＵＮＺ Ｚ），（ＡＤＶ ＡＤ
ＶＺ），（ＡＤＪ ＡＤＪ Ｚ），（ＡＤＪ ＮＯＵＮ
Ｚ Ｚ），（ＡＤＪ ＡＤＶ Ｚ）を作成する。

【００１５】文脈確率検出部４は、これら品詞並び（Ａ
ＤＶ ＡＤＪ Ｚ），（ＡＤＶ ＮＯＵＮＺ Ｚ），
（ＡＤＶ ＡＤＶ Ｚ），（ＡＤＪ ＡＤＪ Ｚ），
（ＡＤＪＮＯＵＮＺ Ｚ），（ＡＤＪ ＡＤＶ Ｚ）に
対する文脈確率を文脈確率テーブル５から抽出する。評
価値算出部６は、それぞれの品詞並びの場合において、
“ｖｅｒｙ”がＡＤＶをとる場合及びＡＤＪをとる場合
のそれぞれについて、文脈確率，語彙確率，累積評価値
を乗算してそれぞれの品詞並びの評価値を算出する。

【００１６】以下、同様の操作を“＃＃Ｉ”まで繰り返
すと、５個の品詞並び Ｉ ｌｏｖｅ ｈｅｒ ｖｅｒｙ ｍｕｃｈ． がとりうる全ての品詞並びに対する評価値が求まる。そ
して、それら評価値の最も高いものを品詞列として選択
する。この場合に、選択される品詞列は、 ＃ ＃ ＰＰＲＯＮ Ｖ ＰＲＯＮ ＡＤＶ ＡＤＶ Ｚ ＃ ＃ となる。

【００１７】

【発明が解決しようとする課題】前述した従来装置の場
合、品詞並びの文脈確率をテーブル（文脈確率テーブル
５）で保存しているため、品詞分類のカテゴリ数や品詞
並びの数が大きくなるにつれて、大量のメモリが必要に
なるという問題があった。

【００１８】本発明はこのような課題に鑑みてなされた
ものであって、メモリ容量を小さくすることができる品
詞選択システムを提供することを目的としている。

【００１９】

【課題を解決するための手段】図１は本発明の原理ブロ
ック図である。図１９と同一のものは、同一の符号を付
して示す。図において、１は入力テキストを受けて、単
語毎の語彙確率を検索する語彙確率検索部、２は語彙と
該語彙の確率が格納され、前記語彙検索部１の検索の対
象となる語彙確率辞書である。

【００２０】１０は前記語彙確率検索部１から検索され
た語彙確率を基に、複数個の品詞並びの文脈確率を検出
する文脈確率検出部、２０は該文脈確率検出部１０から
与えられる入力パターンを入力して次の単語の品詞の種
類に応じた文脈確率を算出する、ニューラルネットワー
クを用いた文脈確率算出部、６は前記文脈確率検出部１
０の出力を受けて、複数個の品詞並びの文脈確率と該品
詞並びの先頭または末尾の単語の語彙確率から所定の手
順に従って評価値を算出する評価値算出部である。

【００２１】

【作用】予め、文脈確率算出部２０に品詞並びの確率を
学習させておく。例えば、３単語品詞並びの場合には、
ニューラルネットワークに後ろから２つの品詞の入力パ
ターンを入力させ、その時の次の単語（先頭単語）の品
詞の種類に応じた確率を予め教師パターンとして与えて
やり、教師パターンとニューラルネットワークの出力と
が等しくなるように学習させておく。

【００２２】しかる後、文脈確率算出部２０は、文脈確
率検出部１０から与えられる品詞並びのパターンを入力
して、次の単語の品詞の種類に応じた文脈確率を算出す
る。例えば、３単語品詞並びの場合には、２個の品詞並
びを入力パターンとして入力し、次の単語の品詞並びを
とる確率（文脈確率）が品詞の種類毎に算出される。こ
の算出された文脈確率を基に、評価値算出部６は３単語
品詞並びのパターン毎の評価値を算出する。

【００２３】このように、本発明によれば文脈確率算出
部２０を構成するニューラルネットワークに品詞並びの
確率を学習させることにより、例えば３品詞並びの場合
には、後ろから２つの品詞に相当するパターンを入力パ
ターンとして入力してやれば、次の３つ目の品詞（先頭
単語の品詞）がとる確率（文脈確率）を品詞の種類ごと
に出力するので、文脈確率の情報を文脈確率テーブルと
してもっている必要がなくなり、メモリ容量を小さくす
ることができる品詞選択システムを提供することができ
る。

【００２４】

【実施例】以下、図面を参照して本発明の動作を詳細に
説明する。

【００２５】図２は文脈確率算出部２０の構成例を示す
図である。２１はニューラルネットワークで、入力層Ｌ
１，中間層Ｌ２及び出力層Ｌ３から構成されている。入
力層Ｌ１は品詞カテゴリ数の組合わせが（品詞並びの数
−１）個設けられている。例えば品詞並びが前述した３
個である場合、入力層Ｌ１は品詞カテゴリ数の組合わせ
が２個で構成される。出力装置Ｌ３は１個のカテゴリ数
の組合わせをもっている。これら品詞カテゴリ数の組合
わせの単位としては、例えば英語の品詞の数である２０
個（２０ユニット）が用いられる。

【００２６】２２は出力層Ｌ３の出力値と教師パターン
とを比較する比較部である。該比較部２２は、出力層Ｌ
３の出力（確率）が教師パターンと等しくなるように入
力層Ｌ１と中間層Ｌ２間のシナプスの重みの変更及び中
間層Ｌ２と出力層Ｌ３間の重みの変更を行う。最終的
に、出力層Ｌ３の出力値と教師パターンが一致した時点
で学習が終了したことになる。この時、入力層Ｌ１と中
間層Ｌ２間のシナプスの重み及び中間層Ｌ２と出力層Ｌ
３間の重みはある一定値に固定される。

【００２７】図３は本発明の一実施例を示す構成ブロッ
ク図である。図１と同一のものは、同一の符号を伏して
示す。図において、文脈確率検出部１０は、語彙確率検
索部１からの単語を入力して所定の数（例えば３個）だ
けの品詞並びを作成する品詞並び作成部１１，品詞並び
作成部１１の出力を受けて入力パターンを作成する入力
パターン作成部１２，該入力パターン作成部１２の出力
を文脈確率算出部２０に入力してニューラルネットワー
クから得られたそれぞれの品詞毎の文脈確率を受けて出
力値を選択する出力値選択部１３から構成されている。

【００２８】評価値算出部６は、出力値選択部１３から
与えられた文脈確率と語彙確率とから評価値を算出する
評価値算出手段３１と、該評価値算出手段３１からの複
数の出力のうちから評価値が最大のものを選択する最大
値選択部３２から構成されている。そして、最大値選択
部３２の出力が求める品詞列となる。このように構成さ
れた装置の動作を説明すれば、以下のとおりである。

【００２９】この実施例におけるニューラルネットワー
ク２１は、予め大量のデータから抽出した品詞並びの頻
度から、入力テキストについて末尾の単語から先頭の単
語に向かって逆向きに品詞を選択して学習させる方法
と、先頭の単語から末期の単語に向かって前向きに品詞
を選択して学習せさる方法のいずれも用いることができ
る。 （末尾の単語から品詞を選択する場合）図４は末尾の単
語から品詞を選択する場合の学習パターンの作成例を示
す図である。ここでは３単語品詞並びを用いるものとす
る。例えば、 ＡＤＶ ＡＤＶ ＡＤＶ のように副詞が３個並ぶ場合を考える。このような品詞
並びの頻度は大量のデータを検索した時、３０７個であ
り、その文脈確率は０．０７である。この０．０７は、
頻度３０７を３単語品詞並びの後ろ２品詞が同じものの
頻度の総和で割った値として求められる。このようにし
て、次の品詞並び ＮＯＴ ＡＤＶ ＡＤＶ のようなＮＯＴと２個の副詞の並びの頻度は７８であ
り、その文脈確率は０．０２である。以下同様にして、
後ろの２個が全てＡＤＶで先頭の１個がカテゴリ数２０
のあらゆる品詞をとる確率が文脈確率として図４に示さ
れている。この文脈確率をニューラルネットワーク２１
に学習させる方法について説明する。

【００３０】ここでは、図２のニューラルネットワーク
２１が入力は２組であり、その品詞種別はいずれもＡＤ
Ｖであるものとする。このＡＤＶを示すのは、２０ユニ
ットのうちの最初のユニットに“１”を立てた状態で示
す。ここで、品詞カテゴリ数として２０ユニットを用い
たのは、英語の場合、品詞の種類が図２４に示すように
２０種類であることに対応させたものである。

【００３１】図５（ａ）はこの時の入力パターン例を示
す図である。今、入力パターン作成部１２は図５に示す
ようなパターンをニューラルネットワーク２１に入力さ
せる。また、例えば、３単語品詞並びとして後ろの２個
がＮＯＵＮ ＡＤＶである場合には、その入力パターン
は図５（ｂ）に示すようなものとなる。ＮＯＵＮの場
合、その番号は図２４より“４”である。図２４は０か
ら番号が始まっているので、“４”であることは第５番
目を示す。そこで、ＮＯＵＮの場合には前から５番目に
“１”が立っている。

【００３２】図６はこの時の学習の説明図である。入力
層Ｌ１は２０ユニットずつ２組で合計４０ユニットの入
力を受ける。各組の最初のユニットに“１”が立ってい
るのは副詞であることを示している。出力は２０ユニッ
トである。一方、このニューラルネットワーク２１の比
較部２２に与える教師パターンは、図７に示すようなも
のである。この教師パターンは図４に示す文脈確率をそ
のまま利用したものである。

【００３３】つまり、ＡＤＶ ＡＤＶ ＡＤＶ となる品詞並びの確率は０．０７であるので、この値を
教師信号として出力層Ｌ３の２０ユニットの最初のユニ
ットに与える。次のユニットには ＮＯＴ ＡＤＶ ＡＤＶ となる品詞並びの確率である０．０２を与える。以下、
図７の値を教師パターンとして比較部２２に与えてい
く。最後のユニットには ＃ ＡＤＶ ＡＤＶ となる品詞並びの確率である０．０８を与える。図６の
構成において、出力層Ｌ３の各ユニットの出力が０．０
７，０．０２，…，０．０８をとるようになるまで何回
も同一の入力パターンを与えてニューラルネットワーク
２１の学習を行なわせる。

【００３４】以上、後の２個がＡＤＶ，ＡＤＶの場合の
先頭の単語がとる品詞の種類に応じた文脈確率を求める
場合を例にとったが、品詞並びはこれに限るものではな
く、図５（ｂ）に示したものの他、極めて多くのパター
ン（例えば２０カテゴリの場合３品詞並びは８０００、
学習パターンは４００）が存在する。それぞれのパター
ンの組み合わせに対しても、図６のニューラルネットワ
ーク２１に学習を行なわせる。

【００３５】このようにして、全ての３単語品詞並びに
ついての学習が終了した状態で、図３に示す装置に入力
テキストを入力してやると、文脈確率算出部２０は入力
パターンに応じた３個の品詞並びの文脈確率を出力す
る。この文脈確率算出部の出力から目的の品詞並びの確
率の出力値を出力値選択部１３が選択して、評価値算出
手段３１に与える。

【００３６】評価値算出手段３１は前記文脈確率と先頭
単語の語彙確率と、それまでの対応する品詞列の累積評
価値を乗算して評価値を算出する。評価値算出手段３１
は３品詞並びがとり得る全ての場合についての評価値を
算出するので、最大値選択部３２はこれら評価値の中で
一番大きい値の品詞並びを選択し、求めるべき品詞列と
して出力する。 （先頭の単語から品詞を選択する場合）先頭の単語から
品詞を選択する場合も、前述した末尾の単語から品詞を
選択する場合と同様に考えることができる。

【００３７】図８は末尾の単語から品詞を選択する場合
の学習パターンの作成例を示す図である。ここでは３単
語品詞並びを用いるものとする。例えば、 ＡＤＶ ＡＤＶ ＡＤＶ のように副詞が３個並ぶ場合を考える。このような品詞
並びの頻度は大量のデータを検索した時、３０７個であ
り、その文脈確率は０．０７である。この０．０７は、
頻度３０７を３単語品詞並びの前２品詞がＡＤＶ，ＡＤ
Ｖである３品詞並びの頻度の総和で割った値として求め
られる。このようにして、次の品詞並び ＡＤＶ ＡＤＶ ＮＯＴ のようなＮＯＴと２個の副詞の並びの頻度は６であり、
その文脈確率は０．００である。以下同様にして、前の
２個が全てＡＤＶで末尾の１個がカテゴリ数２０のあら
ゆる品詞をとる確率が文脈確率として図８に示されてい
る。この文脈確率をニューラルネットワーク２１に学習
させる方法について説明する。

【００３８】ここでは、入力は２組であり、その品詞種
別はいずれもＡＤＶであるものとする。このＡＤＶを示
すのは、２０ユニットのうちの最初のユニットに“１”
を立てた状態で示す。

【００３９】図９はこの時の入力パターン例を示す図で
ある。今、入力パターン作成部１２は図９に示すような
パターンをニューラルネットワーク２１に入力させる。
この時のニューラルネットワークの構成は図６と同じで
ある。

【００４０】入力層Ｌ１は２０ユニットずつ２組で合計
４０ユニットの入力を受ける。各組の最初のユニットに
“１”が立っているのは副詞であることを示している。
出力は２０ユニットである。一方、このニューラルネッ
トワーク２１の比較部２２に与える教師パターンは、図
１０に示すようなものである。この教師パターンは図８
に示す文脈確率をそのまま利用したものである。

【００４１】つまり、ＡＤＶ ＡＤＶ ＡＤＶ となる品詞並びの確率は０．０７であるので、この値を
教師信号として出力層Ｌ３の２０ユニットの最初のユニ
ットに与える。次のユニットには ＡＤＶ ＡＤＶ ＮＯＴ となる品詞並びの確率である０．００を与える。以下、
図１０の値を教師パターンとして比較部２２に与えてい
く。最後のユニットには ＡＤＶ ＡＤＶ ＃ となる品詞並びの確率である０．００を与える。図６の
構成において、出力層Ｌ３の各ユニットの出力が０．０
７，０．００，…，０．００をとるようになるまで何回
も同一の入力パターンを与えてニューラルネットワーク
２１の学習を行なわせる。

【００４２】以上、前から２個がＡＤＶ，ＡＤＶの場合
の末尾の単語がとる品詞の種類に応じた文脈確率を求め
る場合を例にとったが、品詞並びはこれに限るものでは
なく、極めて多くのパターンが存在する。それぞれのパ
ターンの組み合わせに対しても、図６のニューラルネッ
トワーク２１に学習を行なわせる。

【００４３】このようにして、全ての３単語品詞並びに
ついての学習が終了した状態で、図３に示す装置に入力
テキストを入力してやると、文脈確率算出部２０は入力
パターンに応じた３個の品詞並びの文脈確率を出力す
る。この文脈確率算出部の出力から目的の品詞並びの確
率の出力値を出力値選択部１３が選択して、評価値算出
手段３１に与える。

【００４４】評価値算出手段３１は前記文脈確率と末尾
単語の語彙確率と、それまでの対応する品詞列の累積評
価値を乗算して評価値を算出する。評価値算出手段３１
は３品詞並びがとり得る全ての場合についての評価値を
算出するので、最大値選択部３２はこれら評価値の中で
一番大きい値の品詞並びを選択し、求めるべき品詞列と
して出力する。

【００４５】次に、具体例を用いて本発明装置の動作を
説明する。ここでは、図２４に示した２０カテゴリに分
類した品詞を使用し、３品詞並びの文脈確率を利用し
て、入力テキストの各単語の品詞を末尾から先頭に向か
って選択していく場合を考える。ここでは、 I appealed to the children to make less noise. という文章について品詞選択の処理を行う。語彙確率検
索部１は、入力テキスト中の各単語について語彙確率辞
書２を検索し、それぞれの単語について品詞カテゴリと
その確率を抽出する。図１１はこのようにして抽出され
た品詞カテゴリとその確率を示す図である。前記文章に
対応して、それぞの単語の品詞カテゴリとその語彙確率
とが示されている。

【００４６】品詞並び作成部１１は、この検索結果につ
いて３単語の品詞並びを作成する。図１２はこのように
して作成された３単語品詞並びを示す図である。文章の
後の方から実現される可能性のある全ての品詞並びが作
成されている。

【００４７】入力パターン作成部１２は、これらの品詞
並びの後２品詞から図５に示したような入力パターンを
作成し、ニューラルネットワークを用いた文脈確率算出
部２０に与える。文脈確率算出部２０は、後２品詞から
先頭の単語のとる確率を文脈確率として品詞カテゴリ毎
に出力する。

【００４８】出力値選択部１３は、与えられた入力パタ
ーンに対する文脈確率算出部２０の出力について、品詞
並びの先頭の品詞に対する値を選択し、当該品詞並びの
文脈確率とする。

【００４９】評価値算出手段３１は、出力値選択部１３
から得られた文脈確率Ｐｂと、語彙確率検索部１で検索
した品詞並びの先頭の品詞に対する語彙確率Ｐｖを、入
力テキストの末尾の単語から作成した品詞並びに対する
累積評価値ｅ´にかけた値ｅを新しい評価値とする。新
しい評価値ｅは次式で表される。

【００５０】 ｅ＝Ｐｂ×Ｐｖ×ｅ´ （１） 図１３，図１４はこのようにして得られた評価値算出結
果を示す図である。図１３と図１４は連続しており、図
１３の後に図１４がくるようになっている。図におい
て、Ａの部分は文脈確率算出部２０で前述したシーケン
スにより得られた文脈確率、Ｂは先頭単語の品詞の種類
に応じた語彙確率、Ｃはそれまでの過程で得られた累積
評価値ｅ、Ｄは当該累積評価値に対応した品詞並びをそ
れぞれ示している。

【００５１】入力テキストの末尾の単語から順次、当該
単語がとる品詞カテゴリの全てについて、それまでに作
成した品詞並びの全てについて当該品詞並びの後２品詞
と合わせて３品詞並びを作成し、文脈確率Ｐｂを検索す
る。この文脈確率Ｐｂと、当該単語の品詞カテゴリにお
ける語彙確率Ｐｖと、それまでに作成した品詞並びの評
価値ｅ´の積を新しい品詞並びの評価値ｅとしている。
図に示すように、入力テキストの先頭の単語まで、全て
の品詞並びの評価値が算出できた後、最大値選択部３２
はこれらの品詞並びの中から最大の評価値を持つものを
選択し、入力テキストの各単語の品詞を決定する。

【００５２】図１５はこのようにして得られた品詞選択
結果を示す図である。図１４の最終段の品詞並びと一致
している。

【００５３】図１６は本発明の他の実施例を示す構成ブ
ロック図である。図３と同一のものは、同一の符号を付
して示す。図において、１は入力テキストを受けて、単
語毎の語彙確率を検索する語彙確率検索部、２は語彙と
該語彙の確率が格納され、前記語彙検索部１の検索の対
象となる語彙確率辞書、１０はは語彙確率検索部１の出
力を受けて入力パターンを作成する文脈確率検出部とし
ての入力パターン作成部である。

【００５４】２０は入力パターン作成部１０から与えら
れる入力パターンを入力して次の単語の品詞の種類に応
じた文脈確率を算出する、ニューラルネットワークを用
いた文脈確率算出部、３１は文脈確率算出部２０の出力
を受けて、与えられた文脈確率と語彙確率とから評価値
を算出する評価値算出手段、３２は該評価値算出手段３
１からの複数の出力のうちから評価値が最大のものを選
択する最大値選択部３２である。これら、評価値算出手
段３１と最大値選択部３２とで評価値算出部６を構成し
ている。このように構成された装置の動作を説明すれ
ば、以下のとおりである。

【００５５】この実施例では、後２品詞並びの入力パタ
ーンを図５に示すように“１”か“０”かで入力するの
ではなく、後２品詞並びを構成する単語の各品詞カテゴ
リをとる確率を示す評価値を入力するようにしたもので
ある。

【００５６】図３の実施例と同様に、語彙確率検索部１
は入力テキスト中の各単語について語彙確率辞書２を検
索して、それぞれの単語についての品詞カテゴリとその
確率を図１１に示すように抽出する。ここでは、品詞を
選択する際の評価値を単語毎に品詞カテゴリの語彙確率
で表現し、ニューラルネットワークを用いた文脈確率算
出部２０に対して隣接する後２単語又は前２単語の品詞
カテゴリの確率を入力する。

【００５７】図１７，図１８は評価値算出の例を示す図
である。図１７，図１８は一連の動作を示したものであ
り、図１７の後に図１８が続くようになっている。入力
テキストの末尾の単語から品詞を選択する場合には、入
力パターン作成部１０は、３単語品詞並びのうちの後２
単語の評価値Ｅをニューラルネットワーク２１に入力
し、得られた出力が文脈確率Ｐｂとなる。

【００５８】この文脈確率Ｐｂのそれぞれの品詞カテゴ
リの確率に、語彙確率検索部１で得られた該単語の各品
詞カテゴリの確率をかけたものを当該単語の評価値Ｅと
する。

【００５９】最大値選択部３２は、入力テキストの各単
語について、評価値Ｅにおいて最大の値となっている品
詞カテゴリを当該単語の品詞として選択する。例えば、
図１７の場合において、Ｗｎ＝６の場合には単語として
“ｍａｋｅ”を評価している。この時の評価値Ｅは、前
から１０番目のユニットが０．３４と最大値をとってい
る。前から１０番目の品詞は、図２２より動詞（Ｖ）で
ある。このようにして、品詞を選択した結果も、図１５
と同じになる。

【００６０】この実施例によれば、ニューラルネットワ
ーク２１に品詞カテゴリをとる確率を示す評価値を入力
することにより、文脈確率の検索の回数を減少させるこ
とが可能となり、高速に品詞選択を行うことができる。

【００６１】上述の実施例では英語に本発明を適用した
場合について説明したが、本発明はこれに限るものでは
ない。日本語その他の文章についても本発明を適用する
ことができる。

【００６２】

【発明の効果】以上、詳細に説明したように、本発明に
よれば文脈確率を求めるのにニューラルネットワークを
用いるようにすることにより、文脈確率テーブルを持つ
必要がなくなり、メモリ容量を小さくすることができる
品詞選択システムを提供することができる。

【図面の簡単な説明】

【図１】本発明の原理ブロック図である。

【図２】文脈確率算出部の構成例を示す図である。

【図３】本発明の一実施例を示す構成ブロック図であ
る。

【図４】末尾の単語から品詞を選択する場合の学習パタ
ーンの作成例を示す図である。

【図５】入力パターン例を示す図である。

【図６】学習の説明図である。

【図７】教師パターン例を示す図である。

【図８】先頭の単語から品詞を選択する場合の学習パタ
ーンの作成例を示す図である。

【図９】入力パターン例を示す図である。

【図１０】教師パターン例を示す図である。

【図１１】抽出された品詞カテゴリとその確率を示す図
である。

【図１２】作成された３単語の品詞並びを示す図であ
る。

【図１３】本発明により得られた評価値算出結果を示す
図である。

【図１４】本発明により得られた評価値算出結果を示す
図である。

【図１５】本発明による品詞選択結果を示す図である。

【図１６】本発明の他の実施例を示す構成ブロック図で
ある。

【図１７】評価値算出の例を示す図である。

【図１８】評価値算出の例を示す図である。

【図１９】従来装置の構成例を示すブロック図である。

【図２０】語彙確率辞書の内部構成例を示す図である。

【図２１】文脈確率テーブルの構成例を示す図である。

【図２２】品詞の分類を示す図である。

【符号の説明】

１ 語彙確率検索部 ２ 語彙確率辞書 ６ 評価値算出部 １０ 文脈確率検出部 ２０ 文脈確率算出部

フロントページの続き (56)参考文献 山口外、「ニューラルネットを利用し た句境界抽出機能」、電子情報通信学会 全国大会講演論文集、1990年秋季、ｐ. １−126 山口外、「ニューラルネット利用した 言語処理と音素記号生成−英語音声合成 システムへの応用−」、電子情報通信学 会論文誌、1992年、Ｖｏｌ．Ｊ75−Ｄ▲ ＩＩ▼，Ｎｏ．５，ｐ．852−860 Ｍａｔｓｕｍｏｔｏ Ｔ，Ｙａｍａｇ ｕｃｈｉ Ｙ，”Ａ Ｍｕｌｔｉ−Ｌａ ｎｇｕａｇｅ Ｔｅｘｔ−ｔｏ−Ｓｐｅ ｅｃｈ Ｓｙｓｔｅｍ Ｕｓｉｎｇ Ｎ ｅｕｒａｌ Ｎｅｔｗｏｒｋｓ”，Ｐｒ ｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｅ ＳＣＡ Ｗｒｏｋｓｈｏｐ ｏｎ Ｓｐ ｅｅｃｈ Ｓｙｎｔｈｅｓｉｓ，ｐ. 269−272 (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06F 17/27 G06F 17/28 G06F 15/18 ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims (4)

(57)【特許請求の範囲】
1. 【請求項１】 入力テキストを受けて、単語毎の語彙確
   率を検索する語彙確率検索部（１）と、 語彙と該語彙の確率が格納され、前記語彙検索部（１）
   の検索の対象となる語彙確率辞書（２）と、 前記語彙確率検索部（１）から検索された語彙確率を基
   に、複数個の品詞並びの文脈確率を検出する文脈確率検
   出部（１０）と、 該文脈確率検出部（１０）から与えられる入力パターン
   を入力して次の単語の品詞の種類に応じた文脈確率を算
   出する、ニューラルネットワークを用いた文脈確率算出
   部（２０）と、 前記文脈確率検出部（１０）の出力を受けて、複数個の
   品詞並びの文脈確率と該品詞並びの先頭または末尾の単
   語の語彙確率から所定の手順に従って評価値を算出する
   評価値算出部（６）から構成された品詞選択システム。
2. 【請求項２】 前記文脈確率算出部（２０）がｎ単語品
   詞並びの文脈確率を算出する場合において、 該品詞並びの先頭から（ｎ−１）番目までの単語の品詞
   パターンを入力として（ｎ−１）単語の品詞並びに対す
   るｎ番目の単語の各品詞カテゴリがとる確率を出力する
   ように構成したことを特徴とする請求項１記載の品詞選
   択システム。
3. 【請求項３】 前記文脈確率算出部（２０）がｎ単語品
   詞並びの文脈確率を算出する場合において、 該品詞並びの第２番目から末尾ｎまでの単語の品詞パタ
   ーンを入力として（ｎ−１）単語の品詞並びに対する先
   頭の単語の各品詞カテゴリがとる確率を出力するように
   構成したことを特徴とする請求項１記載の品詞選択シス
   テム。
4. 【請求項４】 前記文脈確率算出部（２０）がｎ単語品
   詞並びの文脈確率を算出する場合において、 （ｎ−１）個の品詞並びパターンにそれぞれの品詞をと
   る確率を示す評価値を入力して第ｎ番目又は先頭の単語
   の各品詞カテゴリがとる確率を出力するように構成した
   ことを特徴とする請求項２又は３記載の品詞選択システ
   ム。