JP5174937B2 - 音声認識装置及び方法 - Google Patents

Description

本発明の実施の形態は、音声認識の分野に関し、とくに、音声認識装置の環境変化に対する頑強性（ロバスト性、ロバストネス）を向上させることに関する。

汎用の音声認識装置の多くは、隠れマルコフモデル（ＨＭＭ）を用いて構築されており、音声を音声単位（例えば、音、単語、機能語、音節、最初及び最後の音節など）のレベルで処理する。音声単位は、一般に、単語から分解され、知覚的に単一な、一連の音声の可聴音（例えば話）の部分である。例えば、「I Want」というフレーズは、５つの別個の音（ＴＩＭＩＴ音素システムでは、「ay」、「w」、「ao」、「n」及び「t」）を含む。それぞれの音は、複数の特徴又はフレームに含まれうる。それぞれの音が含まれうる特徴又はフレームの数は、一般に、音の長さに依存し、音の長さは、一般に、異なる話者、会話の速さ、感情状態などによって異なる。ＨＭＭは、それぞれの音の異なる部分を処理するために、一般に、複数の状態を含む。例えば、初期（イニシャル）状態、中間（ボディー）状態、及び終期（ファイナル）状態の３つの状態のＨＭＭが、それぞれ、音の始まり、中核、及び終わりを処理する。一方向型（Left to right）ＨＭＭは、ＨＭＭの初期状態が、それ自身以外の他の導入（エントリー）状態から接続されない導入状態として定義され、ＨＭＭの終期状態が、それ自身以外の他の状態に接続されない末端（ターミナル）状態として定義され、ＨＭＭの中間状態が、他の任意の中間状態である、音声認識において用いられる。前述の定義は、状態をスキップする接続を有する一方向型ＨＭＭもカバーする。

一般的な音声認識装置は、コンテキスト（前後関係）非依存型ＨＭＭ（例えば、モノフォン（monophone）ＨＭＭ）、又は、コンテキスト依存型ＨＭＭ（例えば、バイフォン（biphone）（left to right）ＨＭＭ、デミフォン（demiphone）ＨＭＭ、トライフォン（triphone）ＨＭＭなど）を用いる。コンテキスト非依存型ＨＭＭは、それぞれのベース音声単位を処理するときに、隣接する音声単位を考慮に入れない。他方、コンテキスト依存型ＨＭＭは、それぞれのベース音声単位を処理するときに、隣接する音声単位を考慮に入れる。例えば、一般的なバイフォンＨＭＭは、隣接する１つの音を考慮に入れる。左側バイフォンＨＭＭにおいては、直前の音が考慮に入れられ、右側バイフォンＨＭＭにおいては、直後の音が考慮に入れられる。一般的なトライフォンＨＭＭにおけるそれぞれの状態は、直前及び直後の音を考慮に入れる。前述した、初期状態、中間状態、終期状態の定義は、モノフォン、バイフォン、及びトライフォンの全ての一方向型ＨＭＭについて有効である。別のコンテキスト依存型ＨＭＭは、前後関係のある接続された２つの音素片であるデミフォンを含む。デミフォンは、左側デミフォン部分及び右側デミフォン部分を含む。それぞれのデミフォン部分は、音の一部をモデリングした、１つのみのコンテキスト依存性を有する、標準的なＨＭＭである。左側デミフォン部分は、音の始まりを表現し、直前の音を考慮に入れる。右側デミフォン部分は、音の終わりを表現し、直後の音を考慮に入れる。デミフォンは、均一に又は不均一に音の領域をモデル化することができる。デミフォンが音の領域を不均一にモデル化する場合、デミフォン部分のうちの一つが支配的となり、他の一つよりも多くの状態を有する。例えば、左側が支配的なデミフォンにおいては、左側デミフォン部分は、右側デミフォン部分よりも多くの状態を有する。右側が支配的なデミフォンにおいては、右側デミフォン部分は、左側デミフォン部分よりも多くの状態を有する。デミフォンの初期状態は、左側デミフォン部分におけるエントリーモデル状態であり、それ自身以外の他のエントリー状態から接続されない。デミフォンの終期状態は、右側デミフォン部分におけるターミナルモデル状態であり、それ自身以外の他の状態に接続しない。デミフォンのボディ状態は、初期状態及び終期状態とは異なる、デミフォンのもう一つの状態であり、左側デミフォン部分及び／又は右側デミフォン部分に含まれうる。

下記のテーブルは、「I want」という文の、一般的なコンテキスト非依存型ＴＩＭＩＴモノフォン、及び、一般的なコンテキスト依存型左側バイフォン、右側バイフォン、トライフォン、及びデミフォンを用いた音声転写を示す。
・コンテキスト非依存型モノフォン：sil ay w ao n t sil
・コンテキスト依存型左側バイフォン：sil sil-ay ay-w w-ao ao-n n-t sil
・コンテキスト依存型右側バイフォン：sil ay+w w+ao ao+n n+t t+sil sil
・コンテキスト依存型トライフォン：sil sil-ay+w ay-w+ao w-ao+n ao-n+t n-t+sil sil
・コンテキスト依存型デミフォン：sil sil-ay ay+w ay-w w+ao w-ao ao+n ao-n n+t n-t t+sil sil

それぞれのベース音声単位は、状態遷移確率｛Ａｉｐ｝及び出力確率観測分布｛Ｂｉｐ（Ｏｔ）｝により表すことができる。出力観測分布は、一般に、多変量混合ガウス分布であり、時刻ｔにおける観測Ｏｔ（又は入力フレーム）の生成確率を決定する。出力観測は、状態インデックスｉ、音声単位インデックスｐ、及び時刻ｔにおける入力観測により特定される。

コンテキスト非依存型ＨＭＭにおいて、それぞれの音声単位（例えば、音単位、単語単位、機能語単位、音節単位、最初及び最後の音節単位など）は、それぞれの状態について単一の観測分布を有する。したがって、４０の異なる音と、それぞれの音についてコンテキスト非依存型ＨＭＭの３つの状態を用いる英語の音声認識システムでは、システムは合計で１２０の観測分布を用いる。コンテキスト依存型ＨＭＭは、隣接する音声単位を考慮に入れるので、コンテキスト非依存型ＨＭＭよりも多くの観測分布を用いる。一般的なコンテキスト依存型ＨＭＭ音声認識システムにおいては、出力観測分布の数が１０００から５０００の間の範囲の数になることが珍しくない。コンテキスト依存型ＨＭＭにおける観測分布の数は、一様な決定木クラスタリングアルゴリズム又は一様なデータ駆動型クラスタリングアルゴリズムを適用することにより限定することができるが、これらのアルゴリズムは、音の状態のそれぞれにわたって同一である一様なクラスター閾値を用いる。

コンテキスト依存型ＨＭＭを用いる音声認識装置は、一般に、コンテキスト非依存型ＨＭＭを用いる音声認識装置よりも精確であるが、一般に、コンテキスト非依存型ＨＭＭを用いる音声認識装置よりも多くのメモリ及び計算リソースを必要とする。さらに、コンテキスト依存型ＨＭＭの学習は、コンテキスト非依存型ＨＭＭの学習よりも有意に多くの学習データを必要とする。さらに、トライフォンＨＭＭの学習に要する学習データは、バイフォンＨＭＭの学習に必要な学習データよりも多い。

いくつかの音声認識装置は、システムがリリースされる前に、学習環境において学習される。これにより、システムのユーザは、音声認識システムの学習を低減又は省略することができる。この学習環境は、一般的に高い精度が得られるように、しばしば音声認識のために最適化されている。しかしながら、現実の商用事例の環境（例えば、音声認識システムが商業的に用いられる環境）は、しばしば、学習環境とは異なり（例えば、ノイズが異なるなど）、その結果、音声認識システムの精度は低減する。学習環境においては、異なる環境変数（例えば、異なるノイズ、反響、チャンネル効果など）が考慮に入れられうる。しかしながら、エンドユーザにより最終的に用いられる環境は、学習中とは異なり、又は、考慮され得ない可能性がある。

一般的なコンテキスト依存型バイフォンを用いる音声認識システムは、マッチした条件（学習中と使用中とで環境が実質的に同じ）においては精確であるが、ミスマッチである条件（学習中と使用中の環境が異なる）においては精確でない。ノイズに強いフロントエンド又はバックエンド技術（例えば、特徴変換及び正規化、ノイズ減衰、音声強調、ＨＭＭバックエンドノイズ補償など）を用いることで精確さを向上させることはできるが、マッチしない条件における精確さは許容できない可能性がある。しかしながら、典型的なコンテキスト非依存型ＨＭＭ（例えば、モノフォン）を用いる音声認識システムは、典型的なコンテキスト依存型バイフォンＨＭＭを用いる音声認識システムに比べて、元の学習環境においては精確さが劣るが、環境の変化に対してより頑強である。

計算効率及び低いメモリフットプリントを維持しつつ、コンテキスト依存型音声認識システムの環境変化に対するロバスト性を向上させるための方法及び装置が説明される。一つの実施の形態において、拡張された多状態のコンテキスト依存型隠れマルコフモデル（ＨＭＭ）が、コンテキスト依存性により影響を受けにくい状態の確率観測分布の数を低減させるために定義され学習される。

ある実施の形態において、異なる状態について異なるクラスタリング閾値を用いる非一様な状態クラスタリング処理が用いられる。コンテキスト依存性により影響されにくい状態について、クラスター閾値の値は、非一様な状態クラスタリング処理が実行される結果、観測分布がより結合（クラスター化）されるようにされる。これにより、それらの状態の確率観測分布の総数を低減させることができる。別の実施の形態において、複数状態のコンテキスト依存型ＨＭＭの、コンテキスト依存性により影響を受けにくい１以上の状態が、コンテキストに依存しないように定義される。これにより、それらの状態の確率観測分布の数が１つに低減される。

ＨＭＭの、コンテキスト依存性により影響を受けにくい状態の観測分布の数を低減させることにより、ミスマッチな条件における音声認識システムの精度を向上させることができる（それは環境変化に対するロバスト性を向上させる）とともに、音声認識に必要とされるメモリ及びＣＰＵリソースを低減させることができる。

本発明は、本発明の実施の形態を説明するために用いられる、下記の説明及び添付の図面を参照することにより、最も良く理解されうる。

図１は、一つの実施の形態に係る音声認識アプリケーションのためのデータを学習するために用いられる研鑽装置の構成例を示すブロック図である。

図２は、一つの実施の形態に係るＨＭＭの学習中に実行される手順の例を示すフロー図である。

図３は、一つの実施の形態に係る拡張右側バイフォンＨＭＭの例を示す図である。

図４は、一つの実施の形態に係る拡張左側バイフォンＨＭＭの例を示す図である。

図５は、一つの実施の形態に係る拡張右側バイフォンＨＭＭの別の例を示す図である。

図６は、一つの実施の形態に係る拡張左側バイフォンＨＭＭの別の例を示す図である。

図７は、一つの実施の形態に係る拡張右側支配型デミフォンＨＭＭの例を示す図である。

図８は、一つの実施の形態に係る拡張左側支配型デミフォンＨＭＭの例を示す図である。

図９は、一つの実施の形態に係る拡張トライフォンＨＭＭの例を示す図である。

図１０は、一つの実施の形態に係るモノフォン、左側バイフォン、右側バイフォン、及びトライフォンを組み合わせた並列システム結合ＨＭＭの例を示す。

図１１は、一つの実施の形態に係るアプリケーションのために音声を認識するための音声認識システムを含む計算装置の例を示す。

図１２は、一つの実施の形態に係る音声認識中に実行される手順の例を示すフロー図である。

図１３は、いくつかの実施の形態において使用されうるデータ処理システムの例を示すブロック図である。

下記の説明においては、特定の数値的な詳細が示される。しかしながら、本発明の実施の形態は、これらの特定の詳細なしに実施されることが可能である。別の例においては、既知の回路、構造、及び技術は、この説明の理解を不明瞭にしないために、詳細には示されない。当業者は、本明細書に含まれる説明によれば、過度の実験なしに、適切な機能を実行することができる。

本明細書において、「ある実施の形態」、「一つの実施の形態」、「実施例」などの言及は、説明される実施の形態は、特定の特徴、構造、又は特性を含みうるが、全ての実施の形態が必ずしも特定の特徴、構造、又は特性を含むとは限らないことを示す。さらに、このようなフレーズは、必ずしも同一の実施の形態のことを指すとは限らない。さらに、特定の特徴、構造、又は特性が実施の形態に関連して説明される場合、明示的に説明されるか否かにかかわらず、そのような特徴、構造、又は特性が別の実施の形態との関連においても有効であることは、当業者に理解されるところである。

下記の説明及び特許請求の範囲において、「結合される」及び「接続される」という語が、それらの派生語とともに用いられる。これらの語は、互いに類義語として意図されるものではないことが理解されるべきである。「結合される」という語は、互いに物理的に直接又は電気的に接触する又はしない２以上の要素が、互いに協働又は相互作用することを示すために用いられる。「接続される」という語は、互いに結合された２以上の要素の間における通信の確立を示すために用いられる。

低いメモリフットプリント及び計算効率を維持しつつ、音声認識装置の環境の変化に対するロバスト性を向上させるための方法及び装置について説明する。ある実施の形態において、複数の状態を含む、コンテキスト依存型の拡張された隠れマルコフモデル（ＨＭＭ）が、コンテキストの依存性により影響されにくい、低減された数のこれらの状態の確率観測分布を有するように、定義され、又は学習される。ここでは、一般的なＨＭＭと区別するために、拡張ＨＭＭと呼ぶ。前後関係の依存性により影響を受けにくい状態の確率観測分布の数を低減することにより、不適当な条件における音声認識の正確さを向上させることができる。これにより、音声認識装置に必要とされるコンピュータの要求（例えば、メモリ、ＣＰＵリソースなど）を低減すると同時に、環境変化に対する音声認識装置のロバスト性を向上させることができる。

ある実施の形態において、複数状態のコンテキスト依存型拡張ＨＭＭは、コンテキストに非依存な１以上の状態（例えば、コンテキストの依存関係により影響を受けにくいＨＭＭの状態）と、コンテキストに依存する１以上の状態の組み合わせを含む。

ある実施の形態において、異なる状態について異なるクラスタリングの閾値を用いる、非一様な状態クラスタリング処理が用いられる。コンテキストの依存性により影響を受けにくい状態について、クラスター閾値は、非一様な状態クラスタリング処理が実行されることの結果として、より多くの観測分布が束ねられる（クラスタリングされる）ような値とされる。これにより、これらの状態の観測分布の総数が低減される。別の実施の形態において、コンテキストの依存性により影響を受けにくい複数状態のコンテキスト依存型ＨＭＭの１以上の状態がコンテキストに非依存であるとして定義される。これにより、これらの状態の確率観測分布を一つにして数を低減させることができる。

ある実施の形態において、拡張コンテキスト依存型ＨＭＭの１以上の状態が、これらの状態からコンテキスト依存性を除去するように定義され又は学習される（これにより、１つのみの観測分布を有する）。ある実施の形態において、これらの状態は、１つのみの観測分布を有するように、完全に結合（クラスタリング）される。例として、ある実施の形態において、拡張されたＮ状態の右側バイフォンＨＭＭ（Ｎは２以上）が、他の状態よりも前後関係に依存しにくい初期状態をコンテキスト非依存型にするように定義され又は学習される。これにより、１つのみの観測分布を有するようにすることができる。中間状態及び／又は終期状態は、一般的な一様な決定木クラスタリングアルゴリズム又は一様なデータ駆動型クラスタリングアルゴリズムによって結合されてもよいし、非一様なクラスタリング（後に詳述する）によって結合されてもよく、初期状態よりも多くの出力観測分布を有してもよい。したがって、これらの実施の形態においては、Ｎ状態の拡張右側バイフォンＨＭＭの初期状態はコンテキストに依存しない一方、中間状態及び終期状態はコンテキストに依存する。

ある実施の形態において、拡張されたＮ状態の左側バイフォンＨＭＭ（Ｎは２以上）が、他の状態よりも前後関係に依存しにくい終期状態をコンテキスト非依存型にするように定義され又は学習される。これにより、１つのみの観測分布を有するようにすることができる。初期状態及び／又は中間状態は、一般的な一様な決定木クラスタリングアルゴリズム又は一様なデータ駆動型クラスタリングアルゴリズムによって結合されてもよいし、非一様なクラスタリング（後に詳述する）によって結合されてもよく、終期状態よりも多くの出力観測分布を有してもよい。したがって、これらの実施の形態においては、Ｎ状態の拡張左側バイフォンＨＭＭの終期状態はコンテキストに依存しない一方、初期状態及び中間状態はコンテキストに依存する。このように、ある実施の形態において、拡張バイフォンＨＭＭは、コンテキスト非依存型ＨＭＭとコンテキスト依存型ＨＭＭの要素を組み合わせるように変更されてもよい。

ある実施の形態において、右側が支配的なＮ状態のデミフォンが、中間状態の確率観測分布の数を実質的に低減するために拡張される。例えば、中間状態は、コンテキストに依存しないように定義され又は学習されてもよいし、一般的な右側が支配的なデミフォンの中間状態に比べてより強くクラスタリングされてもよい。同様に、ある実施の形態において、左側が支配的なデミフォンが、中間状態の確率観測分布の数を実質的に低減するために拡張される。例えば、中間状態は、コンテキストに依存しないように定義され又は学習されてもよいし、一般的な左側が支配的なデミフォンの中間状態に比べてより強くクラスタリングされてもよい。

ある実施の形態において、拡張されたＮ状態のトライフォンＨＭＭが、直前の音のみに依存する初期状態（初期状態が直前の音及び直後の音の双方に依存する一般的なトライフォンとは異なる）と、直前及び直後の音に依存する１以上の中間状態と、直後の音のみに依存する終期状態（終期状態が直前の音及び直後の音の双方に依存する一般的なトライフォンとは異なる）とを有するように定義される。

ある実施の形態において、Ｎ状態の典型的又は拡張左側バイフォン、Ｎ状態の典型的又は拡張右側バイフォン、Ｎ状態の典型的又は拡張トライフォン、及びモノフォンうちの１以上を組み合わせ、並列システム組み合わせＮ状態トライフォンＨＭＭが用いられる。並列システム組み合わせＮ状態トライフォンＨＭＭにおいて、音声学習モジュールが、マッチした及び／又はマッチしない条件のための最適なコンテキスト依存ＨＭＭトポロジーを自動的に検索及び選択することができるように、また、音声認識装置が、異なるＨＭＭ間の最適なパスを動的に決定することができるように、新しい状態連結性が確立される。

図１は、一つの実施の形態に係る音声認識アプリケーションのためのデータを学習するために用いられる計算装置１１０の構成例を示すブロック図である。一つの実施の形態によれば、学習は実験室的条件において実行され、エンドユーザにより実行される必要はない。しかしながら、エンドユーザの特定の環境に学習を適合させるために、エンドユーザにより学習が実行されてもよい。

計算装置１１０は、音声認識装置により使用されるＨＭＭを学習させる音声認識学習モジュール１５０を含む。音声認識学習モジュール１５０は、学習データに基づいて、ＨＭＭのための多数の観測分布を生成する。ある実施の形態において、音声認識学習モジュール１５０は、標準学習アルゴリズム（例えば、期待値最大化法（ＥＭ法）、バウム＝ウェルチアルゴリズム、識別学習など）を実行する。音声認識学習モジュール１５０は、学習データベース１２０、ディジタル信号プロセッサ１２５、辞書１３０、単語転写部１３５、ＨＭＭ構成仕様保持部１４０、及び学習済みＨＭＭ保持部１４５に結合される。学習データベース１２０は、一般的な会話、汎用的なスピーチ、及び音声認識アプリケーションのために特定の目的をもつ音などを含む、予め録音された音を格納する。ある実施の形態において、学習データベース１２０のデータは、音声単位（例えば、音素、単語、機能語、音節など）の特定のセットに転写されている。

ある実施の形態において、学習データベース１２０に格納された音は、環境条件の変化による音声認識装置のロバスト性を向上させるために、特定の環境条件を補償することを企図して、ディジタル信号プロセッサ１２５により拡張され、又は変更される。例えば、ディジタル信号プロセッサ１２５は、特徴変換及び正規化、ノイズ減衰、音声強調、及び／又はＨＭＭバックエンドノイズ補償を含むロバスト性技術を、学習データベース１２０に格納されたデータに対して実行してもよい。さらに、ディジタル信号プロセッサ１２５は、学習データベース１２０から特徴ベクトル（時間領域に対する音響の一部）を抽出することにより、特徴抽出を実行してもよい。

辞書１３０は、システムにより音声認識のためにサポートされる単語、文、コマンド、指示、ナレーション、又は他の可聴音を含む。単語転写部１３５は、学習データベース１２０に格納された音声データの単語転写を含む。ＨＭＭ構成仕様保持部１４０は、モデルトポロジー、遷移パラメータ、及び出力分布パラメータを定義する１以上のＨＭＭのための構成情報を含む構成仕様を含む。ある実施の形態において、構成情報は、ＨＭＭのそれぞれの状態についての状態構成、例えば、コンテキスト非依存型かコンテキスト依存型か（及びコンテキストが何に依存されるか）、状態接続性、望ましい混合ガウス分布の数、及び１以上の状態についての非一様なクラスター閾値の１以上を含む。非一様なクラスター閾値は、音の状態間で異なってもよい。非一様なクラスター閾値は、観測分布の数を低減させるために観測分布を連結するときに用いられる。完全に結合された状態は、単一の観測分布のみを有し、実質的にモノフォン状態が生成される。ある実施の形態において、ＨＭＭの異なる状態についての非一様なクラスター閾値の値は、設定可能である。ある実施の形態において、ＨＭＭの他のパラメータ（例えば、状態構成、状態接続性、状態数、一方向型バイフォン、デミフォン、トライフォン、状態数、音定義など）も設定可能である。

一つの実施の形態において、特定のＨＭＭ（例えば、拡張左又は右側バイフォン、拡張トライフォンなど）が学習のために選択され、音声認識学習モジュール１５０は、ＨＭＭのパラメータを推定するためにＨＭＭを学習し、学習されたＨＭＭを学習済みＨＭＭ保持部１４５に格納する。一つの実施の形態において、音声認識学習モジュール１５０は、状態における観測分布の数を低減させる目的で、音響的に類似する観測分布をクラスター化（本明細書では結合ともいう）するために非一様なクラスター閾値を用いる非一様状態クラスタリングモジュール１５５を含む。

一つの実施の形態において、非一様な状態クラスタリングは、非一様なツリーベースのクラスタリングメカニズムである。別の実施の形態において、非一様な状態クラスタリングは、非一様なデータ駆動型クラスタリングアルゴリズムを用いて実行される。非一様なツリーベースのクラスタリング及び非一様なデータ駆動型クラスタリングの双方において、非一様なクラスター閾値が少なくともいくつかのＨＭＭの状態について定義され、そのＨＭＭについての非一様なクラスター閾値の少なくとも一つは、そのＨＭＭについての他の非一様なクラスター閾値の値とは異なる値を有する。

非一様なツリーベースのクラスタリングの一つの実施の形態において、決定木は、はい／いいえで答える音声に関する質問がそれぞれのノードに関連づけられた二分木である。それぞれの質問は、音の特徴（例えば、「母音」、「鼻音」、「子音」など）及び対応する依存性の特徴（例えば、「左」又は「右」）を含む。それぞれのノードにおける質問は、学習データを記述する能力の向上を記述する対数尤度利得を最大化するように設計される。この処理は、対数尤度利得が非一様なクラスター閾値を下回るまで継続する。質問に対する答えに依存して、同一の葉ノードを共有する状態が結合される。一つの実施の形態において、非一様な状態クラスタリング処理は、それぞれの状態について決定木を構築し、状態ごとに（例えば、初期状態、中間状態、及び／又は終期状態ごとに）異なる非一様クラスター閾値があってもよい。

一つの実施の形態において、非一様な状態クラスタリングは、非一様なデータ駆動型クラスタリング技術である。非一様なデータ駆動型クラスタリング技術は、それぞれの状態を非一様にクラスター化するためのトップダウンの階層手順を用いて実行される。非一様なデータ駆動型クラスタリングの一つの実施の形態において、初めに、全ての可能な状態が個々のクラスターに配置される。距離を用いて、最も近いクラスター同士が繰り返しマージされる。処理は、２つのクラスター間の距離が状態ごとに定義された非一様な閾値に達するまで、又は、状態ごとに非一様な数のクラスターが得られるまで繰り返される。

ある実施の形態において、計算装置１１０は、限られたリソースを有する装置、例えば、ゲームコンソール、携帯電話、スマートフォン、ラップトップ、パームトップ、タブレット、ワークステーション、パーソナルコンピュータ、娯楽ロボット、セットトップボックス、テレビジョン、オーディオレシーバー、ＧＰＳ装置、又は限られたリソースを有する他の電子機器である。別の実施の形態において、計算装置１１０は、限られたリソースを有する音声認識システムにより用いられるＨＭＭを学習するために用いられる。

図２は、一つの実施の形態に係るＨＭＭの学習中に実行される作業の例を示すフロー図である。図２の作業は、図１の実施例に関連して説明される。しかしながら、図２の作業は、図２に関連して議論される実施の形態以外の実施の形態により実行されうること、また、図１に関連して議論される実施の形態は、図２に関連して議論される作業とは異なる作業を実行可能であることが理解されるべきである。

ブロック２１０において、音声認識学習モジュール１５０は、ＨＭＭ（例えば、拡張左側又は右側バイフォンＨＭＭ、拡張トライフォンＨＭＭ、拡張デミフォンＨＭＭ、並列システム結合ＨＭＭなど）を学習するための選択を受け付ける。この選択は、人間から受け付けてもよいし、自動化されたプログラムから受け付けてもよい。例えば、簡略化のため図１には示されていないが、学習システムは、ユーザが、学習するＨＭＭを選択することを含む、学習の設定を行うためのインタフェース（例えば、コマンドラインインタフェース、グラフィカルユーザインタフェース）を含んでもよい。一つの実施の形態によれば、ＨＭＭは、ＨＭＭ構成仕様保持部１４０において定義される。本発明の実施の形態に係るＨＭＭの例は、図３−１０に関連して説明される。フローは、ブロック２２０へ移動する。

ブロック２２０において、音声認識学習モジュール１５０は、ＨＭＭ構成仕様保持部１４０から、選択されたＨＭＭのためのＨＭＭ構成仕様を取得する。ある実施の形態において、ＨＭＭ構成情報は、状態数、ＨＭＭのそれぞれの状態についての状態構成、例えば、コンテキスト非依存型かコンテキスト依存型か（及びコンテキストが何に依存されるか）、状態接続性、望ましい混合ガウス分布の数、及び非一様なクラスタリング処理において用いられる１以上の状態についての非一様なクラスター閾値のうちの１以上を含む。

ある実施の形態において、右側及び／又は左側バイフォンＨＭＭが、前後関係の音声的依存性に関して経験的に重要でない状態の確率観測分布の数を、例えば、これらの状態のコンテキスト依存性を無視する、又は、これらの状態をより強く結合することにより実質的に低減するために、定義され又は学習される。トライフォンのクラスタリングの決定木の分析を通じて示唆されるように、バイフォンＨＭＭの初期状態は、主に直前の音に依存し、終期状態は、主に直後の音に依存する。さらに、スペクトル分析によれば、音の終わりは直後の音により重大に依存し、音の始まりは直前の音に依存する。

このように、経験的に重要でない前後関係の音声的依存性は、一般に、右側バイフォンの初期状態及び左側バイフォンの終期状態に生ずる。したがって、本発明のある実施の形態において、拡張右側バイフォンについて、初期状態の確率観測分布の数を実質的に低減するために、初期状態の音声上のコンテキスト依存性が無視される（例えば、初期状態がコンテキスト非依存型として定義されるか、又は、非一様な状態クラスタリング処理により完全に結合されることにより）か、又は、初期状態が（中間状態、終期状態、及び典型的な右側バイフォンの初期状態に比べて）より強く結合される。また、拡張左側バイフォンについて、終期状態の確率観測分布の数を実質的に低減するために、終期状態の音声上のコンテキスト依存性が無視される（例えば、終期状態がコンテキスト非依存型として定義されるか、又は、非一様な状態クラスタリング処理により完全に結合されることにより）か、又は、終期状態が（初期状態、中間状態、及び典型的な左側バイフォンの終期状態に比べて）より強く結合される。

拡張右側バイフォンについて非一様な状態クラスタリング処理が実行される実施の形態において、初期状態及び／又は中間状態の非一様なクラスター閾値は、これらの状態の観測分布の数が、１つである（例えば、完全に結合される）か、又は、終期状態や、典型的な右側バイフォンの対応する初期状態及び中間状態に比べて実質的に低減されるように定義される。拡張左側バイフォンについて非一様な状態クラスタリング処理が実行される実施の形態において、終期状態及び／又は中間状態の非一様なクラスター閾値は、これらの状態の観測分布の数が、１つである（例えば、完全に結合される）か、又は、初期状態や、典型的な左側バイフォンの対応する中間状態及び終期状態に比べて実質的に低減されるように定義される。

トライフォンについて、経験的に重要でない前後関係の音声的依存性は、一般に、初期状態（直後の音との依存性が経験的に重要でない）及び終期状態（直前の音との依存性が経験的に重要でない）に生ずる。したがって、本発明のある実施の形態において、トライフォンは、初期状態における直後の音との前後関係の音的依存性を無視し、終期状態における徳前の音との前後関係の音的依存性を無視することにより拡張される。例えば、ある実施の形態において、拡張トライフォンＨＭＭは、初期状態が直前の音のみに依存し、中間状態が直前及び直後の音に依存し、終期状態が直後の音のみに依存するように定義される。

デミフォンも、経験的に重要でない前後関係の音的依存性を有する状態の確率観測分布の数を低減させることにより拡張されうる。例えば、経験的に重要でない前後関係の音的依存性は、非支配型デミフォンでも、右側及び左側支配型デミフォンでも、一般に、デミフォンの中間状態に生ずる。したがって、ある実施の形態において、右側支配型デミフォンの中間状態における直後の音との前後関係の音的依存性が無視されるか、又は、中間状態の観測分布の数が、拡張右側支配型デミフォンの終期状態や、典型的な右側支配型デミフォンの中間状態に比べて実質的に低減される。例えば、ある実施の形態において、右側支配型デミフォンの中間状態は、コンテキスト非依存型であるように定義される（初期状態は直前の音に依存するままであり、終期状態は直後の音に依存するままである）。別の実施の形態において、中間状態について定義され、中間状態の観測分布の数を１つに低減する（例えば、完全に結合される）か、又は、拡張右側支配型デミフォンの終期状態や、典型的な右側支配型デミフォンの中間状態に比べて実質的に低減する（例えば、典型的な右側支配型デミフォンより十分に結合され、拡張右側支配型デミフォンの終期状態により十分に結合される）、非一様なクラスター閾値を用いた非一様クラスタリング処理が実行される。

同様に、ある実施の形態において、左側支配型デミフォンの中間状態における直前の音との前後関係の音的依存性が無視されるか、又は、中間状態の観測分布の数が、拡張左側支配型デミフォンの初期状態や、典型的な左側支配型デミフォンの中間状態に比べて実質的に低減される。例えば、ある実施の形態において、左側支配型デミフォンの中間状態は、コンテキスト非依存型であるように定義される（初期状態は直前の音に依存するままであり、終期状態は直後の音に依存するままである）。別の実施の形態において、中間状態について定義され、中間状態の観測分布の数を１つに低減する（例えば、完全に結合される）か、又は、拡張左側支配型デミフォンの初期状態や、典型的な左側支配型デミフォンの中間状態に比べて実質的に低減する（例えば、典型的な左側支配型デミフォンより十分に結合され、拡張左側支配型デミフォンの初期状態により十分に結合される）、非一様なクラスター閾値を用いた非一様クラスタリング処理が実行される。

ある実施の形態において、選択されたＨＭＭは、異なる２以上のＨＭＭ（例えば、左側バイフォン（拡張又は典型）、右側バイフォン（拡張又は典型）、モノフォン、トライフォン（拡張又は典型）など）を結合する並列システム結合ＨＭＭである。並列システム結合ＨＭＭは、学習モジュール１５０が、マッチした及び／又はミスマッチな条件に対する最適なコンテキスト依存型ＨＭＭトポロジーを自動的に検索及び選択することを可能とする新しい状態接続を含む。学習モジュール１５０は、学習中に選択されない状態を並列システム結合ＨＭＭから除去してもよい。

図２に戻り、フローはブロック２２０からブロック２３０へ移動し、音声認識学習モジュール１５０は、例えば学習データベース１２０から、音声データを取得する。音声データは予め録音されてもよく、特定の環境条件を補償することを目的として拡張又は変更されてもよい（例えば、異なるタイプのノイズ、反響、ノイズ減衰、特徴変換、ＨＭＭバックエンドノイズ補償など）。

つづいてフローはブロック２４０へ移動し、音声認識学習モジュール１５０は、学習データベース１２０からの音声データ及び辞書１３０を用いて、ＨＭＭ構成仕様において定義されたパラメータにしたがってＨＭＭを学習させる。

ＨＭＭ構成仕様が非一様なクラスター閾値を含む実施の形態において、学習は、前後関係の音的依存性が経験的に重要でない状態の観測分布の数を有意に減少させるために非一様な状態クラスタリング処理を実行する非一様状態クラスタリングモジュール１５５を含む。非一様な状態クラスタリング処理の後のある状態の確率観測分布の数は、その状態に関連づけられた非一様クラスター閾値の値に依存する。十分に高い非一様クラスター閾値が与えられた場合、確率観測分布の数は１つに減少されてもよく、このとき、その状態のコンテキスト依存性は無視される。ある実施の形態において、選択されたＨＭＭの状態のうち少なくともいくつかの非一様クラスター閾値は、コンテキスト依存性により影響を受けにくいＨＭＭの状態をより強く結合するために用いられる。出力観測の数を減少させると、音声認識システムに必要な計算の要求（例えば、音声認識システムのメモリフットプリントやＣＰＵリソースなど）を低減することができ、ミスマッチな条件における音声認識の精度を向上させることができる。

選択されたＨＭＭが並列システム結合ＨＭＭである実施の形態において、学習モジュール１５０の並列システム結合モジュール１６０は、マッチした及び／又はミスマッチな条件のための最適なコンテキスト依存ＨＭＭトポロジーを自動的に検索し選択するために状態連結を用いる。並列システム結合モジュール１６０は、並列システム結合ＨＭＭから学習（音声学習データに依存する）中に選択されない状態を除去してもよい。

学習が完了した後、フローはブロック２４０からブロック２５０へ移動し、学習済みＨＭＭが、学習済みＨＭＭ保持部１４５に格納され、音声認識システムにより音声認識中に用いられる。これについては、図１１及び１２に関連して後で詳述する。

図３は、一つの実施の形態に係る拡張右側バイフォンＨＭＭ３１０の例を示す。ＨＭＭ３１０は、初期状態３１５、中間状態３２０、及び終期状態３２５を含む。ＨＭＭ３１０の３つの状態は、それぞれ、音の始まり、中核、及び終わりをモデル化する。ＨＭＭ３１０は３つの状態を含むが、異なる実施の形態においては、それ以上又はそれ以下の数の状態があってもよい。図３に示すように、それぞれのベース音は、状態遷移確率｛Ａｉｐ｝と、出力観測確率分布｛Ｂｉｐ（Ｏｔ）｝とにより表現される。出力観測分布は、一般に、多変量混合ガウス分布であり、時刻ｔにおいて観測Ｏｔを生成する確率を決定する。出力観測は、状態インデックスｉ及び音インデックスｐ、及び時刻ｔにおける入力観測により特定される。

特定のベース音ｐをモデル化する標準的な右側バイフォンＨＭＭにおけるそれぞれの状態は、直後の（ベース音ｐの右側に隣接する）音ｒに依存する。したがって、標準的な右側バイフォンＨＭＭにおけるそれぞれの状態の観測分布は、ベース音及び後続の音に関連付けられる。観測分布の数は、一様な決定木クラスタリングアルゴリズム又は一様なデータ駆動型クラスタリングアルゴリズムにより限定されうるが、これらのアルゴリズムは、それぞれの状態にわたって同一である一様なクラスター閾値を用いる。結果的に、これらのアルゴリズムは、いくつかの状態の観測分布の数が大きすぎる結果を生じ（例えば、一様なクラスター閾値が比較的小さい場合）、コンテキスト依存性により影響を受けにくい状態に不必要で余分な観測分布をもたらし、ミスマッチな条件（例えば、ローカルな学習条件に学習され過ぎる）における音声認識システムの精度を減少させ、メモリフットプリントを増加させる。または、いくつかの状態の観測分布の数が小さすぎる結果を生じ（例えば、一様なクラスター閾値が比較的大きい場合）、コンテキスト依存性により影響を受けやすい状態が普遍的過ぎる原因となりえ、マッチした及びミスマッチな条件における音声認識システムの精度を減少させることになる。

バイフォンＨＭＭの初期状態（音の始まりを表現する）は、主に、直前の音に依存する。したがって、初期状態について、直後の音との前後関係の依存性は、重要ではなさそうである。拡張右側バイフォンＨＭＭ３１０において、初期状態３１５の前後関係の音的依存性は無視され、実質的にモノフォン状態と同様に扱われる。したがって、初期状態３１５の観測分布は１つのみである。図３に示すように、中間状態３２０及び終期状態３２５において表現されるベース音は、直後の音（ｐ＋ｒで示される）に依存する。右側バイフォンＨＭＭ３１０の初期状態の観測分布の数を低減することにより、音声認識システムのメモリフットプリントを低減し、ＣＰＵリソースの要求を低減することができるだけでなく、ミスマッチな条件（現実の使用の環境が学習中の環境及び／又はシミュレートされた環境とは異なる状況）における音声認識システムの精度を向上させることができる。

一つの実施の形態において、初期状態３１５の観測分布の数を１つの観測分布に低減するために、非一様なクラスタリング処理が実行される結果として初期状態３１５が十分に結合される（すなわち、１つの観測分布を有する）ように、非一様なクラスター閾値３５０が定義される。例えば、非一様なクラスター閾値３５０は、無限大又は非常に大きな値に設定される。中間状態３２０及び終期状態３２５の非一様なクラスター閾値３５５及び３６０は、それぞれ、それらの状態の観測分布の数を低減し、非一様なクラスター閾値３５０とは異なる。非一様なクラスター閾値３５５及び３６０は、同じ値であってもよいし、異なる値であってもよい（例えば、閾値３５５は閾値３６０より大きくてもよいし小さくてもよい）。一つの実施の形態において、非一様なクラスター閾値３５５及び３６０の値は、終期状態３２５が中間状態３２０よりもほぼ３分の２ほど多くの観測分布を有するようにされる。

もう一つの実施の形態において、右側バイフォン３１０の初期状態３１５は、ＨＭＭ構成仕様において、コンテキスト非依存型であると定義される。これにより、確率観測分布の数を１つに低減することができる。このような実施の形態において、非一様な閾値３５０は定義される必要はないが、非一様な閾値３５５及び３６０は定義されてもよい（これらの閾値は同じ値であってもよいし、異なってもよい）。

同様のメカニズムが、一つの実施の形態に係る拡張左側バイフォンＨＭＭに用いられてもよい。図４は、一つの実施の形態に係る拡張左側バイフォンＨＭＭ４１０の例を示す。ＨＭＭ４１０は、初期状態４１５、中間状態４２０、及び終期状態４２５を含む。ＨＭＭ４１０の３つの状態は、それぞれ、音の始まり、中核、及び終わりを表現する。ＨＭＭ４１０は３つの状態を含むが、異なる実施の形態において、それ以上又はそれ以下の数の状態があってもよい。

特定のベース音ｐをモデル化する標準的な左側バイフォンＨＭＭにおけるそれぞれの状態は、直前の（ベース音ｐの左側に隣接する）音ｌに依存する。したがって、標準的な左側バイフォンＨＭＭにおけるそれぞれの状態の観測分布は、ベース音及び直前の音に関連付けられる。観測分布の数は、一様な決定木クラスタリングアルゴリズム又は一様なデータ駆動型クラスタリングアルゴリズムにより限定されうるが、これらのアルゴリズムは、それぞれの状態にわたって同一である一様なクラスター閾値を用いる。結果的に、これらのアルゴリズムは、いくつかの状態の観測分布の数が大きすぎる結果を生じ（例えば、一様なクラスター閾値が比較的小さい場合）、コンテキスト依存性により影響を受けにくい状態に不必要で余分な観測分布をもたらし、ミスマッチな条件（例えば、ローカルな学習条件に学習され過ぎる）における音声認識システムの精度を減少させ、メモリフットプリントを増加させる。または、いくつかの状態の観測分布の数が小さすぎる結果を生じ（例えば、一様なクラスター閾値が比較的大きい場合）、コンテキスト依存性により影響を受けやすい状態が普遍的過ぎる原因となりえ、マッチした及びミスマッチな条件における音声認識システムの精度を減少させることになる。

しかしながら、バイフォンＨＭＭの終期状態（音の終わりをモデル化する）は、主に、直後の音に依存する。したがって、終期状態について、直前の音との前後関係の依存性は、重要ではなさそうである。拡張左側バイフォンＨＭＭ４１０において、終期状態４２５の前後関係の音的依存性は無視され、実質的にモノフォン状態と同様に扱われる。したがって、終期状態４２５の観測分布は１つのみである。図４に示すように、初期状態４１５及び中間状態４２０において表現されるベース音は、直前の音（ｌ−ｐで示される）に依存する。左側バイフォンＨＭＭ４１０の終期状態の観測分布の数を低減することにより、音声認識システムのメモリフットプリントを低減することができるだけでなく、ミスマッチな条件（現実の使用の環境が学習中の環境及び／又はシミュレートされた環境とは異なる状況）における音声認識システムの精度を向上させることができる。

一つの実施の形態において、終期状態４２５の観測分布の数を１つの観測分布に低減するために、非一様なクラスタリング処理が実行される結果として終期状態４２５が十分に結合される（すなわち、１つの観測分布を有する）ように、非一様なクラスター閾値４６０が選択される。例えば、非一様なクラスター閾値４６０は、無限大又は非常に大きな値に設定される。初期状態４１５及び中間状態４２０の非一様なクラスター閾値４５０及び４５５は、それぞれ、それらの状態の観測分布の数を低減し、非一様なクラスター閾値４６０とは異なる。非一様なクラスター閾値４５０及び４５５は、同じ値であってもよいし、異なる値であってもよい（例えば、閾値４５０は閾値４５５より大きくてもよいし小さくてもよい）。一つの実施の形態において、非一様なクラスター閾値４５０及び４５５の値は、初期状態４１５が中間状態４２０よりもほぼ３分の２ほど多くの観測分布を有するようにされる。

もう一つの実施の形態において、左側バイフォンＨＭＭ４１０の終期状態４２５は、ＨＭＭ構成仕様において、コンテキスト非依存型であると定義される。これにより、確率観測分布の数を１つに低減することができる。このような実施の形態において、非一様な閾値４６０は定義される必要はないが、非一様な閾値４５０及び４５５は定義されてもよい（これらの閾値は同じ値であってもよいし、異なってもよい）。

図５は、一つの実施の形態に係る拡張右側バイフォンＨＭＭ５１０の別の例を示す。拡張右側バイフォンＨＭＭ５１０は、初期状態５１５が１以上の観測分布を有し、直後の音に依存する点で、右側バイフォンＨＭＭ３１０と異なる。さらに、中間状態５２０は、初期状態５１５よりも多いが、終期状態５２５よりも少ない観測分布を有する。図５に示すように、記号「＋」は、状態が結合される相対量を表現する。したがって、初期状態５１５は中間状態５２０よりも強く結合され、中間状態５２０は終期状態５２５よりも強く結合される。このように、右側バイフォンＨＭＭ５１０の状態の観測分布の数は、音の前後関係の依存性が重要でなくなるにつれて徐々に漸減する。言い換えれば、コンテキスト依存性により影響を受けにくい状態に対するクラスタリングはより強く実行される。

非一様なクラスター閾値５５０の値は、非一様なクラスタリング処理が実行される結果として初期状態５１５の観測分布の数が典型的な右側バイフォンに比べて実質的に低減されるようにされる（例えば、閾値は典型的な右側バイフォンにおける典型的な一様なクラスター閾値よりも高い）。非一様なクラスター閾値５５５は、非一様なクラスター閾値５６０よりも大きい（それらは、非一様なクラスター閾値５５０よりも小さい）。一つの実施の形態において、非一様なクラスター閾値５５５及び５６０の値は、終期状態５２５が中間状態５２０よりもほぼ３分の２ほど多くの観測分布を有するようにされる。図５は、中間状態５２０が終期状態５２５よりも強く結合されることを示しているが、実施の形態はそれに限られない。例えば、中間状態５２０及び終期状態５２５は、等しく結合されてもよい（例えば、中間状態５２０及び終期状態５２５の非一様なクラスター閾値は同じ値であってもよい）。図５は３つの状態を示しているが、異なる実施の形態においては、それ以上又はそれ以下の状態であってもよい。

図６は、一つの実施の形態に係る拡張左側バイフォンＨＭＭ６１０の別の例を示す。拡張左側バイフォンＨＭＭ６１０は、終期状態６２５が１以上の観測分布を有し、直前の音に依存する点で、左側バイフォンＨＭＭ４１０と異なる。さらに、中間状態６２０は、終期状態６２５よりも多いが、初期状態６１５よりも少ない観測分布を有する。図６に示すように、記号「＋」は、状態が結合される相対量を表現する。したがって、終期状態６２５は中間状態６２０よりも強く結合され、中間状態６２０は初期状態６１５よりも強く結合される。このように、左側バイフォンＨＭＭ６１０の状態の観測分布の数は、音の前後関係の依存性が重要でなくなるにつれて徐々に漸減する。このように、コンテキスト依存性により影響を受けにくい状態に対するクラスタリングはより強く実行される。

非一様なクラスター閾値６６０の値は、非一様なクラスタリング処理が実行される結果として終期状態６２５の観測分布の数が典型的な左側バイフォンに比べて実質的に低減されるようにされる（例えば、閾値は典型的な左側バイフォンにおける典型的な一様なクラスター閾値よりも高い）。非一様なクラスター閾値６５５は、非一様なクラスター閾値６５０よりも大きい（それらは、非一様なクラスター閾値６６０よりも小さい）。一つの実施の形態において、非一様なクラスター閾値６５０及び６５５の値は、初期状態６１５が中間状態６２０よりもほぼ３分の２ほど多くの観測分布を有するようにされる。図６は、中間状態６２０が初期状態６１５よりも強く結合されることを示しているが、実施の形態はそれに限られない。例えば、中間状態６２０及び初期状態６１５は、等しく結合されてもよい（例えば、中間状態６２０及び初期状態６１５の非一様なクラスター閾値は同じ値であってもよい）。図６は３つの状態を示しているが、異なる実施の形態においては、それ以上又はそれ以下の状態であってもよい。

本発明の実施の形態は、バイフォンＨＭＭに限られない。図７は、一つの実施の形態に係る拡張右側支配型デミフォンの例を示す。拡張右側市はいたがデミフォンＨＭＭ７１０は、初期状態７１５、中間状態７２０、及び終期状態７２５を含む。初期状態７１５は、左側デミフォン部分７１２に含まれ、中間状態７２０及び終期状態７２５は、右側デミフォン部分７１４に含まれる。初期状態７１５は、直前の音に依存し、終期状態７２５は、直後の音に依存する。ある実施の形態において、中間状態７２０はコンテキストに依存しない（例えば、完全に結合され、１つの観測分布しか有しない）。別の実施の形態において、中間状態７２０は、直後の音に依存するが、終期状態７２５よりも強く結合される（例えば、非一様なクラスター閾値７５５は、非一様なクラスター閾値７６０よりも大きい）。これらの実施の形態において、終期状態７２５は、中間状態７２０よりも多くの観測分布を有する。典型的な右側支配型デミフォンにおいては、クラスター閾値は、それぞれの状態にわたって同一である（したがって、同一の閾値が中間状態及び終期状態に適用される）ことが理解されるべきである。ある実施の形態において、非一様なクラスター閾値７５０は、非一様なクラスター閾値７６０と同一の値を有するが、別の実施の形態においては、それらは異なる。図７は３つの状態を示しているが、異なる実施の形態においては、それ以上又はそれ以下の状態であってもよい。

もう一つの実施の形態において、右側支配型デミフォンＨＭＭ７１０の中間状態７２０は、ＨＭＭ構成仕様において、コンテキスト非依存型であると定義される。これにより、確率観測分布の数を１つに低減することができる。このような実施の形態において、非一様な閾値７５５は定義される必要はないが、非一様な閾値７５０及び７６０は定義されてもよい（これらの閾値は同じ値であってもよいし、異なってもよい）。

同様のメカニズムが、一つの実施の形態に係る拡張左側支配型デミフォンＨＭＭに用いられてもよい。図８は、一つの実施の形態に係る拡張左側支配型デミフォンＨＭＭの例を示す。拡張左側支配型デミフォンＨＭＭ８１０は、初期状態８１５、中間状態８２０、及び終期状態８２５を含む。初期状態８１５及び中間状態８２０は、左側デミフォン部分８１２に含まれ、終期状態８２５は、右側デミフォン部分８１４に含まれる。初期状態８１５は、直前の音に依存し、終期状態８２５は、直後の音に依存する。ある実施の形態において、中間状態８２０はコンテキストに依存しない（例えば、完全に結合され、１つの観測分布しか有しない）。別の実施の形態において、中間状態８２０は、直前の音に依存するが、初期状態８１５よりも強く結合される（例えば、非一様なクラスター閾値８５５は、非一様なクラスター閾値８５０よりも大きい）。これらの実施の形態において、初期状態８１５は、中間状態８２０よりも多くの観測分布を有する。典型的な左側支配型デミフォンにおいては、初期状態及び中間状態の非一様なクラスター閾値は同一であることが理解されるべきである。ある実施の形態において、非一様なクラスター閾値８５０は、非一様なクラスター閾値８６０と同一の値を有するが、別の実施の形態においては、それらは異なる。図８は３つの状態を示しているが、異なる実施の形態においては、それ以上又はそれ以下の状態であってもよい。

もう一つの実施の形態において、左側支配型デミフォンＨＭＭ８１０の中間状態８２０は、ＨＭＭ構成仕様において、コンテキスト非依存型であると定義される。これにより、確率観測分布の数を１つに低減することができる。このような実施の形態において、非一様な閾値８５５は定義される必要はないが、非一様な閾値８５０及び８６０は定義されてもよい（これらの閾値は同じ値であってもよいし、異なってもよい）。

図７及び８は、右側及び左側支配型デミフォンを示すが、本発明の実施の形態は右側又は左側支配型デミフォンに限られない。例えば、右側又は左側支配型ではないデミフォンが、いくつかの実施の形態における拡張右側及び左側支配型デミフォンに関連して説明したのと同様に、中間状態の確率観測分布の数を低減することにより拡張されてもよい。

ある実施の形態において、トライフォンＨＭＭが、経験的に重要でない音の前後関係の依存性を無視することにより拡張される。図９は、一つの実施の形態に係る拡張トライフォンＨＭＭの例を示す。拡張トライフォンＨＭＭ９１０は、初期状態９１５における直後の音に対する依存性と終期状態９２５における直前の音に対する依存性を無視することにより、経験的に重要でない前後関係の音的依存性を低減する。一つの実施の形態において、トライフォン９１０のためのＨＭＭ構成仕様は、初期状態９１５が直前の音のみに依存し（典型的なトライフォンの状態のように直後の音には依存しない）、中間状態９２０が直前及び直後の音に依存し、終期状態９２５が直後の音のみに依存する（典型的なトライフォンの状態のように直前の音には依存しない）ように定義される。このように、それぞれの状態が直前及び直後の音に依存する典型的なトライフォンとは異なり、初期状態９１５は直前の音のみに依存し（ｌ−ｐにより示される）、終期状態９２５は直後の音のみに依存する（ｐ＋ｒにより示される）。中間状態９２０は、直前及び直後の音に依存するままである（ｌ−ｐ＋ｒにより示される）。したがって、初期状態９１５及び終期状態９２５の確率観測分布の数は、標準的なトライフォンに比べて低減される。図９は、それぞれの状態が少なくとも一つのコンテキストに依存する例を示しているが、別の実施の形態においては、１以上の状態がコンテキスト非依存であってもよい。図９は３つの状態を示しているが、異なる実施の形態においては、それ以上又はそれ以下の状態であってもよい。さらに、初期状態９１５、中間状態９２０、及び終期状態９２５の非一様なクラスタリング閾値は、前述したように、非一様なクラスタリング処理中にも用いられてもよい。

ある実施の形態において、異なるＨＭＭの並列システム結合が、全ての条件（マッチした条件及びマッチしない条件）における精度を向上させるために用いられてもよい。図１０は、一つの実施の形態に係る拡張左側及び右側バイフォン、モノフォン、及びトライフォンを組み合わせた並列システム結合ＨＭＭ１０１０の例を示す。さらに、学習モジュール１５０がマッチした及び／又はミスマッチな条件のための最適なコンテキスト依存型ＨＭＭを自動的に検索及び選択することを可能とするために、異なるＨＭＭ間の新しい接続が定義される。学習モジュール１５０は、学習中に選択されそうにない状態を、並列システム結合ＨＭＭ１０１０のトポロジーから削除してもよい。例として、図１０は、並列システム結合ＨＭＭ１０１０を、それが対応するＨＭＭ構成仕様に定義されたものとして示す。しかしながら、学習モジュール１５０は、学習中に用いられる音声データに依存して、学習中に選択される可能性が小さい状態を削除し、結果の学習済み並列システム結合ＨＭＭを学習済みＨＭＭ保持部１４５に格納してもよい。
ある実施の形態において、状態の学習を最適化し、システムの精度及び並列システム結合ＨＭＭ１０１０のパフォーマンスを更に向上させるために、並列システム結合ＨＭＭ１０１０における最適な状態が選択され再学習される学習処理（標準的な期待値最大化法、バウム＝ウェルチ、識別学習アルゴリズムなど）が繰り返し実行される。音声認識システムは、学習済み並列システム結合のトポロジーの最尤経路を動的に決定するために、学習済み並列システム結合ＨＭＭを用いる。

図１０に示すように、並列システム結合ＨＭＭ１０１０は、モノフォンＨＭＭ（初期状態１０２０、中間状態１０３０、及び終期状態１０４０を含む）、右側バイフォンＨＭＭ（初期状態１０２２、中間状態１０３２、及び終期状態１０４２を含む）、左側バイフォンＨＭＭ（初期状態１０２４、中間状態１０３４、及び終期状態１０４４を含む）、及びトライフォンＨＭＭ（初期状態１０２６、中間状態１０３６、及び終期状態１０４６を含む）を結合する。初期状態１０２０はコンテキスト非依存型であり、初期状態１０２２は直後の音に依存し、初期状態１０２４は直前の音に依存し、初期状態１０２６は直前及び直後の音に依存する。初期状態１０２０、１０２２、１０２４、及び１０２６のそれぞれは、中間状態１０３０、１０３２、１０３４、及び１０３６のそれぞれへの遷移を有する。中間状態１０３０はコンテキスト非依存型であり、中間状態１０３２は直後の音に依存し、中間状態１０３４は直前の音に依存し、中間状態１０３６は直前及び直後の音に依存する。中間状態１０３０、１０３２、１０３４、及び１０３６のそれぞれは、終期状態１０４０、１０４２、１０４４、及び１０４６のそれぞれへの遷移を有する。終期状態１０４０はコンテキスト非依存型であり、終期状態１０４２は直後の音に依存し、終期状態１０４４は直前の音に依存し、終期状態１０４６は直前及び直後の音に依存する。

図１０に示したように、右側バイフォン、左側バイフォン、及びトライフォンが、一般に定義される。しかしながら、実施の形態はそれに限られず、１以上の右側バイフォン、左側バイフォン、及びトライフォンが、上述したように拡張されてもよい。図１０に示した、状態数、ＨＭＭの数、状態接続性、コンテキスト依存性、それぞれの状態の状態構成（それぞれの状態がコンテキスト非依存か、直前に依存するか、直後に依存するか、直前及び直後に依存するか）は例示であり、異なる実施の形態においては、異なるトポロジー及び組み合わせが用いられてもよい。

図１１は、一つの実施の形態に係るアプリケーションのために音声を認識するための音声認識システムを含む計算装置の例を示す。ある実施の形態において、計算装置１１０５は、限られたリソースを有する装置、例えば、ゲームコンソール、携帯電話、スマートフォン、ラップトップ、パームトップ、タブレット、ワークステーション、パーソナルコンピュータ、娯楽ロボット、セットトップボックス、テレビジョン、オーディオレシーバー、ＧＰＳ装置、又は限られたリソースを有する他の電子機器である。アプリケーション１１６５の機能性は、計算装置１１０５の性質に依存する。例えば、アプリケーションは、オフィススート（例えば、ワードプロセッサ、スプレッドシート処理など）、ビデオゲーム及び／又はビデオゲームシステム、オペレーティングシステム、マルチメディアアプリケーションなどであってもよい。ある実施の形態において、計算装置１１０の特徴が、計算装置１１０５に含まれてもよい（例えば、計算装置１１０５は、音声認識学習モジュールを含んでもよい）が、別の実施の形態においては、音声認識学習は、計算装置１１０５の外部の装置において実行されてもよい。

計算装置１１０５は、音声（例えば、コマンド又はアプリケーション１１６５に関連した他の音声、及び／又は、背景ノイズなどの環境音を含んでもよい）を検知するためにマイクロフォン１１１０を用いる。アナログ音声信号は、アナログ−ディジタルコンバータ（ＡＤＣ）１１１５によりディジタルデータに変換される。ディジタル音声信号は、ディジタル信号プロセッサ（ＤＳＰ）１１２０により処理される。例えば、ディジタル信号プロセッサ１１２０は、ディジタルデータから特徴ベクトル（時間領域に対する音声の一部）を生成する。ディジタル信号プロセッサ１１２０は、特徴変換及び正規化、ノイズ減衰、音声強調、及び／又はＨＭＭバックエンドノイズ補償をディジタルデータに実行してもよい。

未知の音声データは、辞書１１４０に定義された、アプリケーション１１６５により適用可能な音声要素（例えば、単語、文、コマンド、命令など）を認識するために、音声認識部１１３０により処理される。一つの実施の形態において、辞書１１４０に格納されたそれぞれの音声要素は、対応する音系列（１以上の音）に関連付けられる。音声認識部１１３０は、入力音声データから一連の音を識別するために、学習済みＨＭＭ保持部１４５に格納された学習済みＨＭＭを用いる。学習済みＨＭＭは、図３〜１０に関連して説明された拡張ＨＭＭに対応してもよい。

音声認識部１１３０は、認識された音系列に対応する音声要素を認識するために、辞書１１４０を用いる。音声認識部１１３０は、アプリケーション１１６５による使用（例えば、コマンド又はアクションの実行、画面への表示など）のため、認識された音声要素から単語列、文、フレーズ、コマンドを形成するために、文法１１４５又は言語モデル１１５０を用いる。

ある実施の形態において、音声認識部１１３０は、発話者（アプリケーション１１６５のユーザ）が、学習済みＨＭＭ保持部１４５に格納された学習済みＨＭＭを、自身の声及び／又は環境に適合させることを可能とする調整モジュール１１６０を更に含む。調整モジュール１１６０は、音声認識システムの精度を向上させ、音声認識システムが特定の環境及び／又は発話者のために学習することを可能とする。一つの実施の形態において、調整は自動的に（例えば、定期的に、発話者の介入なしに）実行されるが、別の実施の形態においては、発話者による要求及び対話により調整が実行される。実施の形態において、調整モジュール１１６０は、図３〜１０において説明した拡張ＨＭＭを調整する。

図１２は、一つの実施の形態に係る音声認識中に実行される手順の例を示すフロー図である。図１２の手順は、図１１の実施例に関連して説明される。しかしながら、図１２の作業は、図１２に関連して議論される実施の形態以外の実施の形態により実行されうること、また、図１１に関連して議論される実施の形態は、図１２に関連して議論される作業とは異なる作業を実行可能であることが理解されるべきである。

ブロック１２１０において、計算装置１１０５は、マイクロフォン１１１０において音声信号を受信する。音声信号は、アプリケーション１１６５のための音声要素及び／又は環境音を含んでもよい。フローはブロック１２１５へ移り、ＡＤＣ１１１５は音声信号をディジタル音声データに変換する。フローはつづいてブロック１２２０に移り、ＤＳＰ１１２０はディジタル音声データから特徴ベクトルを生成する。ある実施の形態において、ＤＳＰ１１２０は、特徴変換及び正規化、ノイズ減衰、音声強調、及び／又はＨＭＭバックエンドノイズ補償をディジタル音声データに実行してもよい。フローはブロック１２２０からブロック１２２５に移る。

ブロック１２２５において、音声認識部１１３０は、学習済みＨＭＭ保持部１４５からの１以上の学習済みＨＭＭを用いて、特徴ベクトルから音声単位を特定する。学習済みＨＭＭは、図３〜１０に関連して詳述した拡張ＨＭＭである。フローはつづいてブロック１２３０に移り、音声認識部１１３０は、単語を特定するために辞書１１４０に対して音声単位を評価する。フローはブロック１２３５に移り、音声認識部１１３０は、文法保持部１１４５又は言語モデル保持部１１５０を用いて、単語から、アプリケーション１１６５により使用される文章、フレーズ、コマンドなどを形成する。フローはつづいてブロック１２４０に移り、アプリケーション１１６５は、認識された文章、フレーズ、コマンドなどに基づいてアクションを実行する。

音声認識部１１３０は、音声認識中に拡張ＨＭＭを用いるので、環境変化に対してよりロバスト性が強い。さらに、拡張ＨＭＭが観測分布の数を低減している場合、音声認識部は、音声認識を実行するためのメモリ及びＣＰＵリソースを低減することができる。

図１３は、いくつかの実施の形態において使用されうるデータ処理システムの例を示すブロック図である。一つの実施の形態において、データ処理システム１３００の構成例は、計算装置１１０及び／又は計算装置１１０５に含まれてもよい。データ処理システム１３００は、携帯電話、スマートフォン、ラップトップ、パームトップ、タブレット、ワークステーション、パーソナルコンピュータ、娯楽ロボット、セットトップボックス、テレビジョン、オーディオレシーバー、ＧＰＳ装置、又は他の処理システムであってもよい。

データ処理システム１３００は、処理システム１３２０を含む。処理システム１３２０は、１以上のマイクロプロセッサ及び／又は集積回路上のシステムを含んでもよい。処理システム１３２０は、オプショナルキャッシュメモリ１３１０、電源供給部１３２５（１以上のバッテリーを含んでもよい）、揮発性メモリ１３３０（例えばＲＡＭ）、不揮発性メモリ１３４０（例えばハードディスク、フラッシュドライブ、相変化メモリ（Phase Change Memory：ＰＣＭ）など）、表示コントローラ及び表示装置１３７０、入出力装置１３８０、及びオプショナル無線トランシーバ１３９０と、１以上のバス１３５０を介して結合される。ある実施の形態において、図１３に示されない更なる構成が処理システム１３００の一部とされてもよいし、ある実施の形態において、図１３に示された構成よりも少ない構成が用いられてもよい。さらに、図１３に示されない１以上のバスが、既知のさまざまな構成を相互に接続するために用いられてもよい。

メモリ１３３０及び／又は１３４０は、データ及び／又はデータ処理システム１３００により実行されるプログラムを格納してもよい。例えば、メモリ１３３０及び／又は１３４０は、音声認識学習モジュール１５０及び音声認識部１１３０により実行される命令を格納してもよい。入出力装置１３８０は、例えば音声認識のための音声を受信し、音声を出力するために、マイクロフォン及び／又はスピーカを含んでもよい。入出力装置１３８０は、キーパッド、キーボード、タッチパネル、マルチタッチパネル、又はユーザがシステムに入力を提供することを可能とする他の構成を更に含んでもよい。表示コントローラ及び表示装置１３７０は、グラフィカルユーザインタフェース（ＧＵＩ）を含んでもよい。オプションの無線（例えばＲＦ）トランシーバ１３９０（例えば、ＷｉＦｉトランシーバ、赤外線トランシーバ、ブルートゥーストランシーバ、無線携帯電話トランシーバなど）は、他のデータ処理システムと通信するために用いられてもよい。

図面に示された技術は、１以上の計算装置（ゲームコンソール、携帯電話、スマートフォン、ラップトップ、パームトップ、タブレット、ワークステーション、パーソナルコンピュータ、娯楽ロボット、セットトップボックス、テレビジョン、オーディオレシーバー、ＧＰＳ装置、又は他のデータ処理システム）に格納され実行されるコード及びデータを用いて実現可能である。このような計算装置は、機械読み取り可能なメディア、例えば、機械読み取り可能な記録メディア（例えば、磁気ディスク、光ディスク、ランダムアクセスメモリ、リードオンリーメモリ、フラッシュメモリ装置、相変化メモリ）及び機械読み取り可能な通信メディア（電気的、光学的、音響的、又は他の形式の伝送信号、例えば、搬送波、赤外線信号、ディジタル信号など）を用いて、コード及びデータを格納し、内部的及び／又はネットワークを介して他の電子機器との間で通信する。さらに、このような計算装置は、一般に、１以上の他の構成、例えば、１以上の記録装置、ユーザ入出力装置（例えば、マイクロフォン、キーボード、タッチスクリーン、及び／又はディスプレー）及びネットワーク接続に結合された１以上のプロセッサのセットを含む。プロセッサのセット及び他の構成は、一般に、１以上のバス及びブリッジ（バスコントローラとも呼ばれる）を介して結合される。記録装置及びネットワークトラフィックを搬送する信号は、それぞれ、１以上の機械読み取り可能な記録メディア及び機械読み取り可能な通信メディアを象徴する。したがって、ある電子機器の記録装置は、一般に、その電子機器の１以上のプロセッサのセットにおいて実行されるコード及び／又はデータを格納する。

実施の形態の１以上の部分は、ソフトウェア、ファームウェア、及び／又はハードウェアの異なる組み合わせを用いて実現されてもよい。例えば、音声認識学習モジュール１５０及び音声認識部１１３０が、ソフトウェア、ファームウェア、及び／又はハードウェアの異なる組み合わせを用いて実現されてもよい。

実施の形態においては、音ベースの認識システムに関して説明したが、実施の形態はそれに限られず、異なる接続性又は他の形式の単位（例えば、単語、機能語、文節、最初及び最後の文節など）を用いた他のタイプの音声認識システムが、ある実施の形態において用いられてもよい。

図面のフロー図は、本発明の特定の実施の形態により実行される手順の特定の順序を示すが、そのような順序は例であり、例えば、別の実施の形態では、異なる順序で、特定の手順を組み合わせたり、特定の手順を重複したりして手順が実行されてもよい。

本発明が、いくつかの実施の形態に関して説明されたが、本発明は説明された実施の形態に限られず、添付された特許請求の範囲の精神及び範囲内で変更及び代替が可能であることは、当業者に認識されるところである。詳細な説明は、限定ではなく例示であるとみなされるべきである。

Claims (27)

1. アプリケーションのためのコンテキスト依存型音声認識装置の環境変化に対するロバスト性を向上させるための装置であって、
   音声認識学習のための音声を格納するための学習データベースと、
   前記コンテキスト依存型音声認識装置により認識される複数の単語を格納するための辞書と、
   前記学習データベース及び前記辞書を用いて、複数の状態を含む隠れマルコフモデル（Hidden Markov Model：ＨＭＭ）の１以上の集合を学習するための音声認識学習モジュールと、を備え、
   前記音声認識学習モジュールは、それぞれのＨＭＭに含まれるそれぞれの状態に対して、その状態の観測分布の数を低減させるクラスター化の程度を決定するためのクラスター閾値を用いて、それぞれの状態をクラスター化するための状態クラスタリング処理を更に実行し、
   前記状態クラスタリング処理は、それぞれのＨＭＭに含まれる少なくともいくつかの状態について、異なる前記クラスター閾値を用いることにより、経験的にコンテキストにより影響を受けにくい状態の観測分布の数を、よりコンテキストにより影響を受けやすい状態の観測分布の数よりも低減させて、経験的にコンテキストにより影響を受けにくい状態を、よりコンテキストにより影響を受けやすい状態よりも強くクラスター化する
   ことを特徴とする装置。
2. 複数の状態を含むＨＭＭのうち少なくとも１つは、コンテキストに依存しない終期状態を有する左側バイフォンＨＭＭであり、前記終期状態は、前記左側バイフォンＨＭＭの終端モデル状態であって、それ自身以外の左側バイフォンＨＭＭの他の状態に接続しないことを特徴とする請求項１に記載の装置。
3. 複数の状態を含むＨＭＭのうち少なくとも１つは、コンテキストに依存しない初期状態を有する右側バイフォンＨＭＭであり、前記初期状態は、前記右側バイフォンＨＭＭの導入モデル状態であって、それ自身以外の右側バイフォンＨＭＭの他の状態から接続されないことを特徴とする請求項１に記載の装置。
4. 複数の状態を含むＨＭＭのうち少なくとも１つは、それぞれ異なる前記クラスター閾値を有する初期状態、中間状態、及び終期状態を有する左側バイフォンＨＭＭであり、
   前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
   前記状態クラスタリング処理は、前記終期状態を前記中間状態及び前記初期状態よりも強くクラスター化し、前記中間状態を前記初期状態よりも強くクラスター化することを特徴とする請求項１に記載の装置。
5. 複数の状態を含むＨＭＭのうち少なくとも１つは、それぞれ異なる前記クラスター閾値を有する初期状態、中間状態、及び終期状態を有する右側バイフォンＨＭＭであり、
   前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
   前記状態クラスタリング処理は、前記初期状態を前記中間状態及び前記初期状態よりも強くクラスター化し、前記中間状態を前記終期状態よりも強くクラスター化することを特徴とする請求項１に記載の装置。
6. 複数の状態を含むＨＭＭのうち少なくとも１つは、少なくとも、初期状態、中間状態、及び終期状態を含む複数の状態を含むトライフォンＨＭＭであり、
   前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
   前記音声認識学習モジュールは、前記初期状態が直前の音のみに依存し、前記中間状態が前記直前の音及び直後の音に依存し、前記終期状態が前記直後の音のみに依存するように、前記複数の状態を含むトライフォンを学習させることを特徴とする請求項１に記載の装置。
7. 複数の状態を含むＨＭＭのうち少なくとも１つは、少なくとも、初期状態、中間状態、及び終期状態を有するデミフォンＨＭＭであり、
   前記中間状態は、前記クラスター閾値に関連付けられ、
   前記状態クラスタリング処理は、前記中間状態の観測分布の数を低減し、
   前記初期状態は、前記デミフォンＨＭＭの左側デミフォン部分の導入モデル状態であって、それ自身以外の他の状態から接続されず、前記終期状態は、前記デミフォンＨＭＭの右側デミフォン部分の終端モデル状態であり、それ自身以外の他の状態に接続せず、前記中間状態は、前記初期状態及び前記終期状態とは異なる状態であり、前記左側デミフォン部分又は前記右側デミフォン部分に含まれることを特徴とする請求項１に記載の装置。
8. 複数の状態を含むＨＭＭのうち少なくとも１つは、複数の状態の１つにおいて、複数の状態を含む左側バイフォンＨＭＭ、複数の状態を含む右側バイフォンＨＭＭ、複数の状態を含むトライフォンの１以上と少なくとも１つのモノフォンを組み合わせた複数の状態を含む並列システム結合であることを特徴とする請求項１に記載の装置。
9. コンテキスト依存型音声認識装置の環境変化に対するロバスト性を向上させるための方法であって、
   複数の状態のうち少なくともいくつかが、その状態の観測分布の数を低減させるクラスター化の程度を決定するための異なるクラスター閾値に関連付けられた、複数の状態を有する隠れマルコフモデル（ＨＭＭ）を学習するための選択を受け付けるステップと、
   複数の状態のそれぞれに対して、前記クラスター閾値を用いて、経験的にコンテキストにより影響を受けにくい状態の観測分布の数を、よりコンテキストにより影響を受けやすい状態の観測分布の数よりも低減させて、経験的にコンテキストにより影響を受けにくい状態を、よりコンテキストにより影響を受けやすい状態よりも強くクラスター化する状態クラスタリング処理を実行するステップを含む、前記ＨＭＭを学習させるステップと、
   学習済みのＨＭＭを格納するステップと、
   を備えることを特徴とする方法。
10. 前記ＨＭＭは、右側バイフォンであって、初期状態及び１以上の他の状態を含み、
    前記初期状態は、前記１以上の他の状態から接続されない導入モデル状態であり、
    前記右側バイフォンの前記初期状態は、クラスター閾値に関連付けられ、
    前記初期状態のコンテキスト依存性は、前記状態クラスタリング処理中に前記初期状態に関連付けられた前記クラスター閾値が適用されることによって低減されることを特徴とする請求項９に記載の方法。
11. 前記ＨＭＭは、右側バイフォンであって、それぞれ異なる前記クラスター閾値に関連付けられた初期状態、中間状態、及び終期状態を少なくとも含み、
    前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
    前記状態クラスタリング処理は、前記初期状態を前記中間状態及び前記終期状態よりも強くクラスター化し、前記中間状態を前記終期状態よりも強くクラスター化するために、異なる前記クラスター閾値を用いることを特徴とする請求項９に記載の方法。
12. 前記ＨＭＭは、左側バイフォンであって、終期状態及び１以上の他の状態を含み、
    前記左側バイフォンの前記終期状態は、前記クラスター閾値に関連付けられ、
    前記終期状態は、前記１以上の他の状態に接続しない終端モデル状態であり、
    前記終期状態のコンテキスト依存性は、前記状態クラスタリング処理中に前記終期状態に関連付けられた前記クラスター閾値が適用されることによって低減されることを特徴とする請求項９に記載の方法。
13. 前記ＨＭＭは、左側バイフォンであって、それぞれ異なる前記クラスター閾値に関連付けられた初期状態、中間状態、及び終期状態を少なくとも含み、
    前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
    前記状態クラスタリング処理は、前記終期状態を前記初期状態及び前記中間状態よりも強くクラスター化し、前記中間状態を前記初期状態よりも強くクラスター化するために、異なる前記クラスター閾値を用いることを特徴とする請求項９に記載の方法。
14. 前記ＨＭＭは、少なくとも、初期状態、中間状態、及び終期状態を有するトライフォンであり、
    前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であり、
    前記ＨＭＭを学習させるステップは、前記初期状態が直前の音のみに依存し、前記中間状態が前記直前の音及び直後の音に依存し、前記終期状態が前記直後の音のみに依存するように、前記複数の状態を有するトライフォンを学習させることを特徴とする請求項９に記載の方法。
15. 前記ＨＭＭは、少なくとも、初期状態、中間状態、及び終期状態を有するデミフォンであり、
    前記初期状態は、前記デミフォンの左側デミフォン部分の導入モデル状態であって、それ自身以外の他の状態から接続されず、前記終期状態は、前記デミフォンの右側デミフォン部分の終端モデル状態であり、それ自身以外の他の状態に接続せず、前記中間状態は、前記初期状態及び前記終期状態とは異なる状態であり、前記左側デミフォン部分又は前記右側デミフォン部分に含まれ、
    前記中間状態は、前記クラスター閾値に関連付けられ、
    前記状態クラスタリング処理は、前記中間状態の観測分布の数を低減することを特徴とする請求項９に記載の方法。
16. 音声認識のための装置であって、
    ＨＭＭに含まれる状態の観測分布の数を低減させるクラスター化の程度を決定するためのクラスター閾値を用いて前記状態をクラスター化するための状態クラスタリング処理において、ＨＭＭの少なくともいくつかの状態について異なる前記クラスター閾値を用いることにより、コンテキストにより経験的に影響を受けにくい１以上の状態の観測分布の数が、よりコンテキストにより影響を受けやすい状態の観測分布の数よりも低減された、複数の状態をそれぞれ有する１以上の学習済みＨＭＭの集合と、
    １以上の学習済みＨＭＭを用いて音声を認識し、結果をアプリケーションに提供する音声認識部と、
    を備えることを特徴とする装置。
17. 前記学習済みＨＭＭの集合のうちの１つは、コンテキストに依存しない終期状態を含み、コンテキストに依存する１以上の他の状態を含む左側バイフォンであり、前記終期状態は、前記左側バイフォンの終端モデル状態であって、それ自身以外の前記左側バイフォンの他の状態に接続しないことを特徴とする請求項１６に記載の装置。
18. 前記学習済みＨＭＭの集合のうちの１つは、コンテキストに依存しない初期状態を含み、コンテキストに依存する１以上の他の状態を含む右側バイフォンであり、前記初期状態は、前記右側バイフォンの導入モデル状態であって、それ自身以外の他の状態から接続されないことを特徴とする請求項１６に記載の装置。
19. 前記学習済みＨＭＭの集合のうちの１つは、少なくとも、直前の音にのみ依存する初期状態、前記直前の音及び直後の音に依存する中間状態、及び前記直後の音のみに依存する終期状態を含むトライフォンであり、
    前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であることを特徴とする請求項１６に記載の装置。
20. 前記学習済みＨＭＭの集合のうちの１つは、少なくとも、初期状態、中間状態、及び終期状態を含むデミフォンであり、
    前記初期状態は、前記デミフォンの左側デミフォン部分の導入モデル状態であって、それ自身以外の他の状態から接続されず、前記終期状態は、前記デミフォンの右側デミフォン部分の終端モデル状態であり、それ自身以外の他の状態に接続せず、前記中間状態は、前記初期状態及び前記終期状態とは異なる状態であり、前記左側デミフォン部分又は前記右側デミフォン部分に含まれ、
    前記中間状態は、前記クラスター閾値に関連付けられ、
    前記状態クラスタリング処理は、前記中間状態の観測分布の数を低減することを特徴とする請求項１６に記載の装置。
21. 前記学習済みＨＭＭの集合のうちの１つは、左側バイフォンＨＭＭ、右側バイフォンＨＭＭ、トライフォンＨＭＭ、及びモノフォンＨＭＭのうち２以上の間の接続が確立された並列システム結合ＨＭＭであり、
    前記音声認識部は、前記並列システム結合ＨＭＭである前記学習済みＨＭＭの集合の１つを用いて、前記並列システム結合ＨＭＭにおける異なる複数のＨＭＭにわたる最適経路を動的に決定することを特徴とする請求項１６に記載の装置。
22. 計算装置において音声認識を実行するための方法であって、
    音声信号を取得するステップと、
    前記音声信号をディジタル音声に変換するステップと、
    前記ディジタル音声から特徴ベクトルを生成するステップと、
    ＨＭＭに含まれる状態の観測分布の数を低減させるクラスター化の程度を決定するためのクラスター閾値を用いて前記状態をクラスター化するための状態クラスタリング処理において、ＨＭＭの少なくともいくつかの状態について異なる前記クラスター閾値を用いることにより、コンテキストにより経験的に影響を受けにくい１以上の状態の観測分布の数が、よりコンテキストにより影響を受けやすい状態の観測分布の数よりも低減された学習済みＨＭＭを用いて前記特徴ベクトルから音声単位を特定するステップと、
    前記音声単位により形成される音声要素を特定するステップと、
    前記音声要素をアプリケーションに提供するステップと、
    を備えることを特徴とする方法。
23. 前記学習済みＨＭＭは、コンテキストに依存しない終期状態を含み、コンテキストに依存する１以上の他の状態を含む左側バイフォンであり、前記終期状態は、前記左側バイフォンの終端モデル状態であって、前記１以上の他の状態に接続しないことを特徴とする請求項２２に記載の方法。
24. 前記学習済みＨＭＭは、コンテキストに依存しない初期状態を含み、コンテキストに依存する１以上の他の状態を含む右側バイフォンであり、前記初期状態は、前記右側バイフォンの導入モデル状態であって、前記１以上の他の状態から接続されないことを特徴とする請求項２２に記載の方法。
25. 前記学習済みＨＭＭは、少なくとも、直前の音にのみ依存する初期状態、前記直前の音及び直後の音に依存する中間状態、及び前記直後の音のみに依存する終期状態を含むトライフォンであり、
    前記初期状態は、それ自身以外の他の状態から接続されない導入モデル状態であり、前記中間状態は、前記初期状態及び前記終期状態の間の中間の状態であり、前記終期状態は、それ自身以外の他の状態に接続しない終端モデル状態であることを特徴とする請求項２２に記載の方法。
26. 前記学習済みＨＭＭは、少なくとも、初期状態、中間状態、及び終期状態を含むデミフォンであり、
    前記初期状態は、前記デミフォンの左側デミフォン部分の導入モデル状態であって、それ自身以外の他の状態から接続されず、前記終期状態は、前記デミフォンの右側デミフォン部分の終端モデル状態であり、それ自身以外の他の状態に接続せず、前記中間状態は、前記初期状態及び前記終期状態とは異なる状態であり、前記左側デミフォン部分又は前記右側デミフォン部分に含まれ、
    前記中間状態は、前記クラスター閾値に関連付けられ、
    前記状態クラスタリング処理は、前記中間状態の観測分布の数を低減することを特徴とする請求項２２に記載の方法。
27. 前記学習済みＨＭＭは、左側バイフォンＨＭＭ、右側バイフォンＨＭＭ、トライフォンＨＭＭ、及びモノフォンＨＭＭのうち２以上の間の接続が確立された並列システム結合ＨＭＭであり、
    前記特徴ベクトルから音声単位を特定する際に、前記並列システム結合ＨＭＭである前記学習済みＨＭＭの集合の１つを用いて、前記並列システム結合ＨＭＭの異なる複数のＨＭＭにわたる最適経路を動的に決定することを特徴とする請求項２２に記載の方法。

Images