JP5161942B2 - Speech recognition apparatus, speech recognition method, and speech recognition program - Google Patents
Speech recognition apparatus, speech recognition method, and speech recognition program Download PDFInfo
- Publication number
- JP5161942B2 JP5161942B2 JP2010208760A JP2010208760A JP5161942B2 JP 5161942 B2 JP5161942 B2 JP 5161942B2 JP 2010208760 A JP2010208760 A JP 2010208760A JP 2010208760 A JP2010208760 A JP 2010208760A JP 5161942 B2 JP5161942 B2 JP 5161942B2
- Authority
- JP
- Japan
- Prior art keywords
- node
- route
- acoustic
- unit
- speech recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
本発明の実施形態は、音声認識装置、音声認識方法及び音声認識プログラムに関する。 Embodiments described herein relate generally to a speech recognition apparatus, a speech recognition method, and a speech recognition program.
従来より、音声認識装置においてロバスト性の高い音声認識を行うためには、例えば、特許文献1及び特許文献2に開示されているように、複数の音響モデルに対して、複数の経路探索部(デコーダ)を同時に用いることにより複数の最適な単語の系列からなる経路を計算する方法か、もしくは特許文献3に開示されているように、単一の経路探索部を順次用いることにより複数の最適な単語の系列からなる経路を計算する方法があった。
Conventionally, in order to perform highly robust speech recognition in a speech recognition device, for example, as disclosed in
しかしながら、従来の方法では、ロバスト性の高い音声認識を行うための計算コストや計算に際して使用するメモリ量が増大する恐れがあった。特に、複数の音響モデルを用いた計算を行う方法においては、計算コストや計算に際して使用するメモリ量が顕著に増大する恐れがあった。 However, in the conventional method, there is a risk that the calculation cost for performing highly robust speech recognition and the amount of memory used for the calculation increase. In particular, in a method of performing calculation using a plurality of acoustic models, there is a risk that the calculation cost and the amount of memory used for the calculation increase significantly.
実施形態の音声認識装置は、状態数と状態遷移の構造とが共通である複数の音響モデルを記憶する第1記憶部と、始端を表す始端ノードと、終端を表す終端ノードと、前記始端ノード及び終端ノードの間の少なくとも1つのノードとを有し、複数の前記音響モデルに共通の探索ネットワークを記憶する第2記憶部と、音声の入力を受け付ける受付部と、前記音声を用いて、音響特徴量を抽出する抽出部と、前記音響特徴量と、複数の前記音響モデルと、前記探索ネットワークとを用いて、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至るまでに経由するノードの系列を示す各経路に対して、複数の前記音響モデルのそれぞれに対応してスコアを計算する計算部と、各前記経路のうち少なくとも1つの音響モデルに対応する前記スコアが最大である第1経路を選択することにより、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至る最適な経路である前記第1経路を探索する探索部と、前記音声の認識結果である前記第1経路を示す情報を出力する出力部とを備えることを特徴とする。 The speech recognition apparatus according to the embodiment includes a first storage unit that stores a plurality of acoustic models having a common number of states and a state transition structure , a start node that represents a start end, a end node that represents a end, and the start node A second storage unit that stores a search network that is common to a plurality of the acoustic models, a reception unit that receives an input of speech, and the speech. Using an extraction unit that extracts a feature amount, the acoustic feature amount, the plurality of acoustic models, and the search network, a node that passes from the start node to the end node on the search network For each path indicating a sequence, a calculation unit that calculates a score corresponding to each of the plurality of acoustic models, and corresponding to at least one acoustic model of each of the paths A search unit that searches for the first route that is the optimum route from the start node to the end node on the search network by selecting the first route having the maximum score; and the speech recognition result And an output unit that outputs information indicating the first route.
[第1の実施形態]
まず、音声認識装置のハードウェア構成について説明する。本実施の形態に係る音声認識装置は、装置全体を制御するCPU(Central Processing Unit)等の制御部と、各種データや各種プログラムを記憶するROM(Read Only Memory)やRAM(Random Access Memory)等の主記憶部と、各種データや各種プログラムを記憶するHDD(Hard Disk Drive)やCD(Compact Disk)ドライブ装置等の補助記憶部と、これらを接続するバスとを備えており、通常のコンピュータを利用したハードウェア構成となっている。また、音声認識装置には、音声が入力される音声入力部が有線又は無線により各々接続される。
[First embodiment]
First, the hardware configuration of the speech recognition apparatus will be described. The speech recognition apparatus according to this embodiment includes a control unit such as a CPU (Central Processing Unit) that controls the entire apparatus, a ROM (Read Only Memory) that stores various data and various programs, a RAM (Random Access Memory), and the like. Main storage unit, an auxiliary storage unit such as an HDD (Hard Disk Drive) or CD (Compact Disk) drive device for storing various data and various programs, and a bus for connecting these, a normal computer The hardware configuration is used. In addition, a voice input unit to which voice is input is connected to the voice recognition device by wire or wireless.
次に、このようなハードウェア構成において、本実施の形態に係わる音声認識装置の機能的構成について図1を用いて説明する。音声認識装置100は、音声入力受付部101と、音響特徴量抽出部102と、音響モデル記憶部103と、探索ネットワーク記憶部104と、経路探索部105とを有する。音声入力受付部101と、音響特徴量抽出部102と、経路探索部105とは、制御部が主記憶部や補助記憶部に記憶された各種プログラムを実行することにより各々実現される。音響モデル記憶部103と、探索ネットワーク記憶部104とは、例えば補助記憶部に構成されるものである。
Next, the functional configuration of the speech recognition apparatus according to the present embodiment in such a hardware configuration will be described with reference to FIG. The
音声入力受付部101は、音声入力部に入力された音声を表すアナログの音声信号の入力を受け付け、これをデジタルの音声信号に変換する。音響特徴量抽出部102は、音声入力受付部101がデジタルに変換した音声信号を用いて時刻毎の音響特徴量を抽出する。音響モデル記憶部103は、複数(例えばM個)の音響モデルを記憶する。音響モデルとしては、例えば音素単位の隠れマルコフモデル(HMM)などを用いても良い。ただし複数の音響モデルは、後述する探索ネットワーク記憶部104に記憶された単一の探索ネットワークを用いて経路探索部105が探索可能な共通の構造を有するものとする。例えば、音響モデルが音素単位の隠れマルコフモデルの場合には、複数の音響モデル間で対応する音素モデルの状態数及び状態遷移の構造が共通であることなどが挙げられる。
The voice input reception unit 101 receives an input of an analog voice signal representing the voice input to the voice input unit and converts it into a digital voice signal. The acoustic feature
探索ネットワーク記憶部104は、単一の探索ネットワークを記憶する。図2は、探索ネットワークを例示する図である。探索ネットワークは、図中において丸印で表されるノードと、ノード間の遷移を矢印で表したアークとにより構成される。ノードのうち、始端を表すものが始端ノードSであり、終端を表すものが終端ノードEである。始端ノードSから終端ノードEに至るまでのノードの系列を示すものが経路となる。各ノード及び各アークの一部又は全てには、ラベルが付与されている。このラベルは、探索ネットワーク上のノード及びアークを各々識別するための任意の識別子であっても良いし、各ノードやアークに対応付けられる音素や単語であっても良く、求められている音声認識結果によって変更可能である。また、全てのノード及びアークにラベルを付与する必要はない。同図に示される探索ネットワークの例では、各ノードに数字による識別子が各々付与され、各アークに単語が各々付与されている。具体的には、各ノードに「1」〜「6」のラベルが各々付与されており、ノード2からノード3へ至るアークにラベル「単語1」が付与されており、ノード2からノード5へ至るアークにラベル「単語2」が付与されており、ノード1からノード4へ至るアークにラベル「単語3」が付与されている。
The search
探索ネットワークのノードnは、時刻tにおいてm番目(1≦m≦M)の音響モデルに対応する音響スコアlm (t,n)を、音響モデルの数(M個)だけ保持する音響スコアリストscr(t,n)を有する。scr(t,n)は例えば式1により表される。
The node n of the search network has an acoustic score list that holds the acoustic scores l m (t, n) corresponding to the m-th (1 ≦ m ≦ M) acoustic model at time t by the number of acoustic models (M). It has scr (t, n). scr (t, n) is expressed by, for example,
但し、音響スコアリストは、各ノードに対応したものが参照できれば良く、ノード自身に保持させることに限定するものではない。 However, the acoustic score list only needs to be able to refer to the one corresponding to each node, and is not limited to being stored in the node itself.
一方、ノードjからノードiへ至るアークは、m番目(1≦m≦M)の音響モデルに対応する遷移スコアam jiを、音響モデルの数(M個)だけ保持する遷移スコアリストtrans(j,i)を有する。trans(j,i) は例えば式2により表される。 On the other hand, the arc from node j to node i has a transition score list trans () that holds transition scores a m ji corresponding to the m-th (1 ≦ m ≦ M) acoustic model by the number (M) of acoustic models. j, i). trans (j, i) is represented by, for example, Formula 2.
但し、遷移スコアリストは、各アークに対応したものが参照できれば良く、アーク自身に保持させることに限定するものではない。 However, the transition score list need only be able to refer to the one corresponding to each arc, and is not limited to being held in the arc itself.
経路探索部105は、音響特徴量抽出部102が抽出した音響特徴量と、音響モデル記憶部103に記憶された複数の音響モデルと、探索ネットワーク記憶部104に記憶された探索ネットワークとを用いて、音声入力部に入力された音声の認識の結果として最適な経路(最適経路という)を探索する。このとき、経路探索部105は、始端ノードSから終端ノードEに至るまでに経由するノード毎に、始端ノードSから当該ノードに至る最適経路を順次探索することにより、始端ノードSから終端ノードEに至る最適経路を探索する。そして、経路探索部105は、始端ノードSから終端ノードEへ至る最適経路を経由するノードに付与されたラベル及び当該ノード間の遷移を示すアークに付与されたラベルのうち少なくとも一方を示す経路履歴情報を生成してこれを音声認識結果として出力する。ここでは、経路履歴情報は、経路上のアークにラベルとして付与された単語を示すものとする。
The
探索の方法としては、例えば、以下の参考文献1に示されるように、探索ネットワーク上のトークンの伝播を用いた手法(トークンパッシング)がある。
(参考文献1)S.J.Young,N.H.Russell,and J.H.S.Thornton,“Token Passing: a Conceptual Model for Connected Speech Recognition Systems”CUED Technical Report F INFENG/TR38,Cambridge University,1989.
As a search method, for example, as shown in
(Reference 1) J. et al. Young, N .; H. Russell, andnd J. et al. H. S. Thornton, “Token Passing: a Conceptual Model for Connected Speech Recognition Systems, INFEDNG / TR38, Cambridge9
トークンパッシングの手法では、図3に例示されるように、経路探索部105は、時刻tで到達し得る探索ネットワーク中のノードnに対して、始端ノードSから当該ノードnまでの経路上のアークに付与された単語を示す経路履歴情報hist(t,n)と、複数の音響モデルに各々対応する音響スコアを累積して保持する累積スコアリストcumscr(t,n)とを有するトークンtoken(t,n)を生成する。経路探索部105は、探索ネットワーク中の経路上を経由するノードにこのトークンを伝播させることによって経路履歴情報及び累積スコアリストを更新して最適経路を探索する。同図では、「t=2」の時刻tにおいて、始端ノードSからノード1、ノード2及びノード4までトークンが伝播された場合の例が示されている。尚、累積スコアリストcumscr(t,n)は例えば以下の式3によりM次元のベクトルで表される。
In the token passing method, as illustrated in FIG. 3, the
式3において、Sm (t,n)(1≦m≦M)は、始端ノードSから時刻tにおけるノードnに至る経路に対してm番目の音響モデルに対応して累積された音響スコアである。尚、経路履歴情報及び累積スコアリストは、各トークンに対応したものが参照できれば良く、トークン自身に保持させることに限定するものではない。そのため、例えばRAMなどの主記憶部のある記憶領域に、全トークンに関する経路履歴情報及び累積スコアリストを記憶させ、各トークンがそれらを参照する方法なども考えられる。
In
具体的には、経路探索部105は、時刻t-1における経路履歴情報hist(t-1,k)及び累積スコアリストcumscr(t-1,k)を有する全てのトークンtoken(t-1,k)の集合Vt-1を用いて、時刻tにおけるノードiのトークンtoken(t,i)を求め、始端ノードSから時刻tにおけるノードiに至る最適経路を求める。集合Vt-1とは、始端ノードSから当該ノードiに至る経路において当該ノードiの1つ前に経由するノードであって時刻t-1に到達可能なノードが有するトークンの集合を表し、最適経路の探索において枝刈り処理(最適経路の候補の絞り込み)を行う場合には、枝刈りされずに残っているトークンの集合を意味する。
Specifically, the
始端ノードSから時刻tにおけるノードiに至る最適経路を求めるためには、経路探索部105は、まずトークン集合Vt-1に含まれる全トークンのうち、時刻tにノードiに遷移し得るトークンの集合V→(t,i)を選択する。次に、経路探索部105は、選択したトークン集合V→(t,i)が保持する全ての累積スコアリストcumscr(t-1,k) (ただしkはtoken(t-1,k)∈V→(t,i)を満たす全てのノード番号)と、上述の式2で表される遷移スコアリストtrans(k,i)とのM個の音響モデルに各々対応する値の和(累積)で求められるスコアのうち、最大のスコアを持つノードを最適ノードj*として式4により選択する。
In order to obtain the optimum route from the start node S to the node i at the time t, the
そして、経路探索部105は、最適ノードj*に対応するトークンを最適トークンtoken(t-1,j*)としてノードiに伝播させ、最適トークンtoken(t-1,j*)の累積スコアリストcumscr(t-1,j*)と、遷移スコアリストtrans(j*,i)と、時刻tにおけるノードiで抽出された音響特徴量に対する音響スコアリストscr(t,i)とを用いて、トークンtoken(t,i)の累積スコアリストcumscr(t,i)を式5により更新する。
Then, the
トークンtoken(t,i)の有する経路履歴情報hist(t,i)は、最適ノードj*からノードiへ至る遷移を表すアークにラベル「w」が付与されている場合、式6に表されるように、hist(t-1,j*)に「w」を追加することにより求められる。
The route history information hist (t, i) included in the token token (t, i) is expressed by
また、最適ノードj*からノードiへ至る遷移を表すアークにラベルが付与されていない場合には、式7に表されるように、hist(t-1,j*)をそのままhist(t,i)に代入することで求められる。 If no label is given to the arc representing the transition from the optimal node j * to the node i, hist (t−1, j * ) is directly used as hist (t, j, It is obtained by substituting into i).
経路探索部105は、これらの処理を、音声の入力が終了した時刻(終了時刻)「T」までの全ての時刻t(t=1,2,…,T)において行い、「t=T」である時刻tにおける終端ノードEに対応するトークンtoken(T,E)の有する経路履歴情報hist(T,E)が最適経路を示すものとしてこれを出力する。これが音声認識結果である。
The
尚、ラベルが探索ネットワークの全ノードに付与されている場合、上記の方法によって求められる最適経路は、当該最適経路を経由するノードの系列を意味する。図3の例では、あるノードからあるノードへ至る遷移を表すアークに単語のラベルが付与されているが、最適経路において取り扱う最小単位が単語である場合、各単語内で各音素の状態等の最適な経路を明示的に求める必要はなく、単語単位での最適な経路を求めれば良い。このような場合においては、時刻t-1で最適ノードj*に対応するトークンtoken(t-1,j*)を伝播させることにより求められるトークンtoken(t,i)が有する経路履歴情報と同一の経路履歴情報を有するトークンtoken(t-1,k)が複数存在することが考えられる。そのようなトークンの集合をV*→(t,i)としたとき、経路探索部105は、始端ノードSから時刻tにおけるノードiに至る経路において、M個の音響モデルに各々対応する値のうち、最大の値を選択し、これを用いて、ノードiに対応するトークンtoken (t,i)の有する累積スコアリストcumscr(t,i)を更新する。具体的には、経路探索部105は、式5の代わりに以下に示す式8を用いて、累積スコアリストcumscr(t,i)を更新する。
When labels are assigned to all nodes in the search network, the optimum route obtained by the above method means a sequence of nodes that pass through the optimum route. In the example of FIG. 3, a word label is given to an arc representing a transition from a certain node to a certain node. However, when the minimum unit handled in the optimum route is a word, the state of each phoneme in each word It is not necessary to explicitly find the optimum route, and it is sufficient to find the optimum route in units of words. In such a case, it is the same as the route history information of the token token (t, i) obtained by propagating the token token (t-1, j * ) corresponding to the optimal node j * at time t-1. There may be a plurality of token tokens (t−1, k) having the path history information. When such a token set is V * → (t, i) , the
尚、kはtoken(t-1,k)∈V*→(t,i)を満たす全てのノード番号である。但し、経路探索部105は、式8を用いて累積スコアリストを更新した場合には、トークンtoken(t,i)の有する経路履歴情報hist(t,i)は、便宜的に式6又は式7を用いて更新することが望ましい。また、経路探索部105は、枝刈り条件に応じて、枝刈りする。具体的に例えば、枝刈り条件とは、各トークンに対応する累積スコアリストにおいて複数の音響モデルに対応して計算された各値の全てが閾値を下回ることである。経路探索部105は、このような枝刈り条件を満たすトークン自体を除去する。また、枝刈り条件とは、例えば、各トークンに対応する累積スコアリストにおいて少なくとも1つの音響モデルに対応して計算された値が閾値を下回ることであっても良い。経路探索部105は、このような枝刈り条件を満たす値を累積スコアリストから除去することにより、枝刈りする。
Note that k is all node numbers satisfying token (t−1, k) ∈V * → (t, i) . However, when the
次に、本実施の形態に係る音声認識装置100が行う音声認識処理の手順について図4を用いて説明する。音声認識装置100は、音声入力受付部101の機能により、音声入力部に入力された音声を表すアナログの音声信号の入力を受け付け、これをデジタルの音声信号に変換する(ステップS1)。音声認識装置100は、音響特徴量抽出部102の機能により、ステップS1でデジタルに変換した音声信号を用いて時刻毎の音響特徴量を抽出する(ステップS2)。音声認識装置100は、経路探索部105の機能により、ステップS2で抽出された音響特徴量と、音響モデル記憶部103に記憶された複数の音響モデルと、探索ネットワーク記憶部104に記憶された探索ネットワークとを用いて、最適経路を探索する(ステップS3)。
Next, the procedure of the speech recognition process performed by the
図5は、図4のステップS3の処理の詳細な手順を示すフローチャートである。経路探索部105は、「t=0」である時刻tに、初期処理として、始端ノードSから時刻tにおけるノードnに至る経路上のアークに付与された単語を経路として示す経路履歴情報hist(t,n)と、複数(M個)の音響モデルに対応する音響スコアを累積して保持する累積スコアリストcumscr(t,n)とを有するトークンを生成する(ステップS10)。尚、「t=0」は、音声が入力される前の適当な時点であり、当該時刻tにおけるノードnは、始端ノードSである。このため、経路履歴情報によって示される単語はなく、累積スコアリストcumscr(t,n)の値は全て「0」である。
FIG. 5 is a flowchart showing a detailed procedure of the process in step S3 of FIG. The
経路探索部105は、時刻tを「1」インクリメントすると(ステップS11)、時刻tに到達し得るノードiを選択する。そして、経路探索部105は、始端ノードSからノードiに至る経路を経由するノード間の遷移を表すアークに付与された単語の系列を示すように経路履歴情報hist(t,i)を更新し、累積スコアリストを更新して、時刻tにおけるトークンを生成する(ステップS12)。次に、経路探索部105は、時刻tに到達し得るノードiに伝播し得る全トークンの有している経路履歴情報が異なるか否かを判断する(ステップS13)。当該判断結果が肯定的である場合(ステップS13:YES)、経路探索部105は、時刻tにおけるノードiに対して、時刻t-1における経路履歴情報hist(t-1,k)及び累積スコアリストcumscr(t-1,k)を有する全てのトークンtoken(t-1,k)の集合Vt-1を用いて、時刻tにおけるノードiのトークンtoken(t,i)を求める。このとき、経路探索部105は、上述の式5を用いて、ノードiに対応するトークンの累積スコアリストcumscr(t,i)を計算する(ステップS14)。例えば、「i=5」であるノード5に対して、図6に例示されるように、3つの音響モデルに対応して各々音響スコアが計算されている場合、ノード4の有するトークンの有する累積スコアリストが、ノード5に対応する累積スコアリストcumscr(t,5)として計算される。その後、ステップS16に進む。
When the time t is incremented by “1” (step S11), the
一方、ステップS13の判断結果が否定的である場合(ステップS13:NO)、経路探索部105は、時刻tにおけるノードiに対して、時刻t-1における経路履歴情報hist(t-1,k)及び累積スコアリストcumscr(t-1,k)を有する全てのトークンtoken(t-1,k)の集合Vt-1を用いて、時刻tにおけるノードiのトークンtoken(t,i)を求める。このとき、経路探索部105は、上述の式8を用いて、時刻tにおけるノードiに対応するトークンの累積スコアリストcumscr(t,i)を計算する(ステップS15)。例えば、「i=3」であるノード3に対して、図7に例示されるように、3つの音響モデルに対応して各々音響スコアが計算されている場合、一番目の音響スコアについては、ノード2の音響スコアの値が選択され、2番目の音響スコアについては、ノード3の音響スコアの値が選択され、3番目の音響スコアについては、ノード3の音響スコアの値が選択されて、累積スコアリストcumscr(t,3)が計算される。その後、ステップS16に進む。
On the other hand, when the determination result of step S13 is negative (step S13: NO), the
ステップS16では、経路探索部105は、式6又は式7を用いて、時刻tにおけるノードiの経路履歴情報を更新する。そして、経路探索部105は、時刻tにおけるノードiに対応するトークンが枝刈りの条件に合致するか否かを判断する(ステップS17)。当該判断結果が肯定的である場合(ステップS17:YES)、経路探索部105は、当該トークンを除去して(ステップS19)、ステップS18に進み、当該判断結果が否定的である場合(ステップS17:NO)、ステップS18に進む。ステップS18では、経路探索部105は、時刻tまでに到達し得るノードi以外のノードがあるか否かを判断し、当該判断結果が肯定的である場合(ステップS18:YES)、ステップS12に進み、当該ノードi以外のノードについて上述と同様にして処理を行う。一方、ステップS18の判断結果が否定的である場合(ステップS18:NO)、経路探索部105は、時刻tが終了時刻「T」に達したか否かを判断する(ステップS20)。当該判断結果が否定的である場合(ステップS20:NO)、ステップS11に進み、当該判断結果が肯定的である場合(ステップS20:YES)、経路探索部105は、「t=T」の時刻tにおける終端ノードEに対応するトークンの保持する経路履歴情報を出力する(ステップS21)。この経路履歴情報によって示される経路が最適経路であり、ステップS1で入力が受け付けられた音声の認識結果を示す。
In step S <b> 16, the
以上のように、本実施の形態に係わる音声認識装置によれば、複数の音響モデルを用いて単一の探索ネットワーク上において、複数の音響モデルに各々対応した音響スコアの累積を計算して最適経路を探索することで、計算コストや計算の際に使用するメモリ量の増加を抑えつつ、ロバスト性の高い音声認識を行うことが可能となる。 As described above, according to the speech recognition apparatus according to the present embodiment, the optimal acoustic score is calculated by calculating the accumulation of acoustic scores respectively corresponding to a plurality of acoustic models on a single search network using the plurality of acoustic models. By searching for a route, it is possible to perform speech recognition with high robustness while suppressing an increase in the calculation cost and the amount of memory used for the calculation.
なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。 Note that the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. Moreover, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, the constituent elements over different embodiments may be appropriately combined.
上述した実施の形態において、音声認識装置100で実行される各種プログラムを、インターネット等のネットワークに接続されたコンピュータ上に記憶し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また当該各種プログラムを、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータプログラムプロダクトとして提供するように構成しても良い。
In the embodiment described above, various programs executed by the
上述した実施の形態において、経路探索部105が最適経路を探索する方法は、上述の例に限らず、例えば、参考文献2に示される動的計画法を用いた手法を用いても良い。
(参考文献2)L.Rabiner and B.−H.Juang,“Fundamentals of Speech Recognition”,Prentice Hall Signal Processing Series,pp.339−342,1993.
In the embodiment described above, the method by which the
(Reference 2) Rabiner and b. -H. Juang, “Fundamentals of Speech Recognition”, Prentice Hall Signal Processing Series, pp. 339-342, 1993.
本変形例に係る探索ネットワーク上の最適経路を探索する例について図8を用いて説明する。同図において、横軸方向はノードを表し、縦軸方向は時刻を表しており、図中の丸印は探索ネットワーク中の状態を表し、矢印は状態の遷移を表す。探索ネットワーク中の各状態(t,n)は時刻tにおけるノードnに対応している。「t=0」である時刻tにおける始端ノードSに対応する状態(0,S)を初期状態と呼び、音声入力が終了した時刻Tにおける終端ノードEに対応する状態(T,E)を終了状態と呼ぶ。また各状態は、初期状態(0,S)から当該状態(t,n)へ至る経路を示す経路履歴情報hist(t,n)と、式9で示される複数の音響モデルに対応する音響スコアを累積で保持する累積スコアリストcumscr(t,n)とを有する。 An example of searching for the optimum route on the search network according to this modification will be described with reference to FIG. In the figure, the horizontal axis direction represents nodes, the vertical axis direction represents time, circles in the figure represent states in the search network, and arrows represent state transitions. Each state (t, n) in the search network corresponds to node n at time t. The state (0, S) corresponding to the start node S at time t where “t = 0” is referred to as the initial state, and the state (T, E) corresponding to the end node E at time T when the voice input ends is ended. Call the state. Each state includes path history information hist (t, n) indicating a path from the initial state (0, S) to the state (t, n), and an acoustic score corresponding to a plurality of acoustic models represented by Equation 9. Has a cumulative score list cumscr (t, n) that holds.
ただし、各状態の経路履歴情報や累積スコアリストは、各状態に対応したものが参照できれば良く、状態自身に保持させることに限定するものではない。そのため、例えばRAMなどの主記憶部のある記憶領域に、全状態に関する経路履歴情報及び累積スコアリストを記憶させ、各状態がそれらを参照する方法なども考えられる。 However, the route history information and the cumulative score list of each state need only be able to refer to those corresponding to each state, and are not limited to being held in the state itself. Therefore, for example, a method of storing path history information and cumulative score lists regarding all states in a storage area having a main storage unit such as a RAM and referring to them by each state may be considered.
経路探索部105は、時刻t-1において、経路履歴情報hist(t-1,k)及び累積スコアリストcumscr(t-1,k)を有する状態(t-1,k)の集合Qt-1を用いて、時刻tにおけるノードiに対応する状態(t,i)における最適経路を求める。集合Qt-1とは、初期状態(0,S)から時刻tにおける状態(t,i)に至る経路において当該状態(t,i)の1つ前に経由する状態であって時刻t-1に到達可能な状態の集合を表し、最適経路の探索において枝刈り処理を行う場合には、枝刈りされずに残っている状態の集合を意味する。
The
初期状態(0,S)から時刻tにおけるノードiに対応する状態(t,i)に至る最適経路を求めるには、経路探索部105は、まず時刻t-1における状態の集合Qt-1に含まれる全状態のうち、時刻に状態(t,i)に遷移し得る状態の集合Q→(t,i)を選択する。次に、経路探索部105は、選択した状態集合Q→(t,i)の全ての累積スコアリストcumscr(t-1,k)(ただしkは(t-1,k)∈Q→(t,i)を満たす全てのノード番号)と、式2で表される遷移スコアリストtrans(k,i)のM個の音響モデルに各々対応する値の和(累積)で求められるスコアのうち、最大のスコアを持つノードを最適ノードj*として式10により選択する。
In order to obtain the optimum route from the initial state (0, S) to the state (t, i) corresponding to the node i at time t, the
そして、経路探索部105は、時刻t-1での最適ノードj*に対応する状態(t-1,j*)での累積スコアリストcumscr(t-1,j*)と、遷移スコアリストtrans(j*,i)と、時刻tにおけるノードiに対応する音響スコアリストscr(t,i)とを用いて、式11により、状態(t,i)における累積スコアリストcumscr(t,i)を計算する。
Then, the
状態(t,i)の有する経路履歴情報hist(t,i)は、最適ノードj*からノードiへ至る遷移にラベル「w」が付与されている場合には、式12に示されるように、hist(t-1,j*)に「w」を追加することで求められる。 The route history information hist (t, i) possessed by the state (t, i) is expressed as shown in Expression 12 when the label “w” is given to the transition from the optimal node j * to the node i. , Hist (t-1, j * ) is obtained by adding “w”.
また、最適ノードj*からノードiへ至る遷移にラベルが付与されていない場合には、式13に示されるように、hist(t-1,j*)をそのままhist(t,i)に代入することで求められる。 If no label is assigned to the transition from the optimal node j * to the node i, hist (t−1, j * ) is directly substituted for hist (t, i) as shown in Expression 13. Is required.
経路探索部105は、これらの処理を、音声の入力が終了した時刻(終了時刻)「T」までの全ての時刻t(t=1,2,…,T)において行い、「t=T」である時刻tにおける終端ノードEに対応する終了状態(T,E)の有する経路履歴情報hist(T,E)が最適経路を示すものとしてこれを出力する。これが音声認識結果である。
The
尚、ラベルが探索ネットワークの全ノードに付与されている場合、上記の方法によって求められる最適経路は、当該最適経路を経由するノードの系列を意味する。あるノードからあるノードへ至る遷移に単語のラベルが付与されており、最適経路において取り扱う最小単位が単語である場合、各単語内で各音素の状態等の最適な経路を明示的に求める必要はなく、単語単位での最適な経路を求めれば良い。このような場合においては、時刻t-1で最適ノードj*に対応する状態(t-1,j*)を伝播させることにより求められる状態(t,i)が有する経路履歴情報と同一の経路履歴情報を有する状態(t-1,k)が複数存在することが考えられる。そのような状態の集合をQ*→(t,i)としたとき、経路探索部105は、初期状態(0,S)から状態(t-1,k)に至る経路において、M個の音響モデルに各々対応する値のうち、最大の値を選択し、これを用いて、時刻tにおけるノードiに対応するトークン(t,i)の有する累積スコアリストcumscr(t,i)を更新する。具体的には、経路探索部105は、式11の代わりに以下に示す式14を用いて、累積スコアリストcumscr(t,i)を更新する。
When labels are assigned to all nodes in the search network, the optimum route obtained by the above method means a sequence of nodes that pass through the optimum route. When a word label is given to a transition from a certain node to a certain node, and the smallest unit handled in the optimum route is a word, it is necessary to explicitly obtain the optimum route such as the state of each phoneme within each word. What is necessary is just to obtain the optimal route in units of words. In such a case, the same route history information as the state history (t, i) obtained by propagating the state (t-1, j * ) corresponding to the optimum node j * at time t-1 There may be a plurality of states (t−1, k) having history information. When such a set of states is defined as Q * → (t, i) , the
尚、kは(t-1,k)∈Q*→(t,i)を満たす全てのノード番号である。但し、経路探索部105は、式14を用いて累積スコアリストを更新した場合には、状態(t,i)の有する経路履歴情報hist(t,i)は、便宜的に式12又は式13を用いて更新することが望ましい。また、経路探索部105は、枝刈り条件に応じて、枝刈りする。具体的に例えば、枝刈り条件とは、各状態に対応する累積スコアリストにおいて複数の音響モデルに対応して計算された各値の全てが閾値を下回ることである。経路探索部105は、このような枝刈り条件を満たす状態自体を除去する。また、枝刈り条件とは、例えば、各状態に対応する累積スコアリストにおいて少なくとも1つの音響モデルに対応して計算された値が閾値を下回ることであっても良い。経路探索部105は、このような枝刈り条件を満たす値を累積スコアリストから除去することにより、枝刈りする。
Note that k is all node numbers satisfying (t−1, k) ∈Q * → (t, i) . However, if the
本変形例に係る音声認識装置100が行う音声認識処理の手順は、図4に示されるものと同様である。ステップS3の処理の手順も図5に示されるものと略同様であるが、本変形例においてはトークンの有する経路履歴情報及び累積スコアリストの代わりに、状態の有する経路履歴情報及び累積スコアリストを用いて計算を行う点が、上述の第1の実施の形態と異なる。計算の方法自体は第1の実施の形態と同様である。
The procedure of the speech recognition process performed by the
以上のような構成によっても、複数の音響モデルを用いて単一の探索ネットワーク上において、複数の音響モデルに各々対応した音響スコアの累積を計算して最適経路を探索することで、計算コストや計算の際に使用するメモリ量の増加を抑えつつ、ロバスト性の高い音声認識を行うことが可能となる。 Even with the configuration as described above, the calculation cost or the calculation cost can be reduced by calculating the accumulation of the acoustic scores corresponding to the plurality of acoustic models on the single search network using the plurality of acoustic models and searching for the optimum route. It is possible to perform speech recognition with high robustness while suppressing an increase in the amount of memory used for calculation.
上述した実施の形態及び変形例においては、経路探索部105は、枝刈りは行わなくても良い。
In the embodiment and the modification described above, the
上述した実施の形態及び変形例においては、あるノードからあるノードに至る遷移に、ラベルとして単語を付与した場合に経路探索部105が行う処理について説明したが、これに限らず、ノード自体にラベルとして単語を付与するようにした場合も経路探索部105は同様にして処理を行う。
In the embodiment and the modification described above, the processing performed by the
上述した実施の形態及び変形例においては、経路探索部105は、ノードに対応させて音響スコアを計算するようにしたが、これに限らず、アークに対応させて音響スコアを計算するようにしても良い。
In the embodiment and the modification described above, the
100 音声認識装置
101 音声入力受付部
102 音響特徴量抽出部
103 音響モデル記憶部
104 探索ネットワーク記憶部
105 経路探索部
DESCRIPTION OF
Claims (7)
始端を表す始端ノードと、終端を表す終端ノードと、前記始端ノード及び終端ノードの間の少なくとも1つのノードとを有し、複数の前記音響モデルに共通の探索ネットワークを記憶する第2記憶部と、
音声の入力を受け付ける受付部と、
前記音声を用いて、音響特徴量を抽出する抽出部と、
前記音響特徴量と、複数の前記音響モデルと、前記探索ネットワークとを用いて、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至るまでに経由するノードの系列を示す各経路に対して、複数の前記音響モデルのそれぞれに対応してスコアを計算する計算部と、
各前記経路のうち少なくとも1つの音響モデルに対応する前記スコアが最大である第1経路を選択することにより、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至る最適な経路である前記第1経路を探索する探索部と、
前記音声の認識結果である前記第1経路を示す情報を出力する出力部とを備える
ことを特徴とする音声認識装置。 A first storage unit that stores a plurality of acoustic models having a common number of states and a structure of state transition ;
A second storage unit that stores a search network common to a plurality of the acoustic models, including a start node that represents a start point, a terminal node that represents a terminal end, and at least one node between the start node and the terminal node ,
A reception unit for receiving voice input;
An extraction unit for extracting an acoustic feature using the voice;
Using the acoustic feature quantity, the plurality of acoustic models, and the search network, for each path indicating a sequence of nodes that pass from the start node to the end node on the search network, A calculator that calculates a score corresponding to each of the plurality of acoustic models;
The first route that is the optimum route from the start node to the end node on the search network by selecting the first route having the maximum score corresponding to at least one acoustic model among the routes. A search unit for searching for a route;
A speech recognition apparatus comprising: an output unit that outputs information indicating the first route, which is the speech recognition result.
ことを特徴とする請求項1に記載の音声認識装置。 The first storage unit stores the acoustic model that is configured by a hidden Markov model and has a common number of states of the hidden Markov model and a structure of state transition corresponding to the plurality of acoustic models. The speech recognition apparatus according to claim 1.
前記探索部は、前記始端ノードから前記終端ノードに至るまでに経由するノード毎に前記始端ノードから当該ノードに至る最適な経路を順次探索するものであり、前記始端ノードから、前記終端ノードに至るまでに経由するノードである第1ノードの1つ前に経由するノードであって前記第1ノードに到達し得る全ての第2ノードに至る各第3経路に対して少なくとも1つの音響モデルに対応する前記スコアが最大となる第4経路を選択することにより、前記始端ノードから前記第4経路を経由して前記第1ノードに至る最適な経路を探索する
ことを特徴とする請求項1に記載の音声認識装置。 The calculation unit uses the acoustic feature quantity, the plurality of acoustic models, and the search network, for each of the plurality of acoustic models for each node that passes from the start node to the end node. by the first score calculated correspondingly to accumulate the first score to each calculated in correspondence from the starting node to the node via the second path to the node, to the second path Calculating the score corresponding to each of the plurality of acoustic models;
The search unit sequentially searches for an optimum route from the start node to the end node for each node passing from the start node to the end node, and reaches from the start node to the end node. Corresponds to at least one acoustic model for each third route that reaches all the second nodes that can reach the first node, and that is a node that passes before the first node that is a node that passes through The optimal route from the start node to the first node via the fourth route is searched by selecting a fourth route that maximizes the score. Voice recognition device.
前記探索部は、前記始端ノードから前記終端ノードに至るまでに経由するノード毎に前記始端ノードから当該ノードに至る最適な経路を順次探索するものであり、前記始端ノードから、前記終端ノードに至るまでに経由するノードである第1ノードに至る経路である第3経路が1つである場合、当該第3経路に対して複数の前記音響モデルのそれぞれに対応して計算された前記スコアと、前記始端ノードから前記第1ノードの1つ前に経由する第2ノードに至る第4経路に対して複数の前記音響モデルのそれぞれに対応して計算された前記スコアとのうち、前記音響モデル毎に最大のスコアを選択し、選択したスコアを前記第3経路に対するスコアに更新して、前記始端ノードから前記第1ノードに至る最適な経路である前記第3経路を探索する
ことを特徴とする請求項1に記載の音声認識装置。 The calculation unit uses the acoustic feature quantity, the plurality of acoustic models, and the search network, for each of the plurality of acoustic models for each node that passes from the start node to the end node. by the first score calculated correspondingly to accumulate the first score to each calculated in correspondence from the starting node to the node via the second path to the node, to the second path Calculating the score,
The search unit sequentially searches for an optimum route from the start node to the end node for each node passing from the start node to the end node, and reaches from the start node to the end node. When there is one third route that is a route to the first node that is a node that passes through until the first route, the score calculated corresponding to each of the plurality of acoustic models for the third route, Of the scores calculated corresponding to each of the plurality of acoustic models for the fourth path from the starting node to the second node that passes immediately before the first node, for each acoustic model select the maximum score, and updates the selected score score for the third path, searching for the third path from the starting node is the optimal route to the first node Speech recognition apparatus according to claim 1, characterized in Rukoto.
前記出力部は、前記第1経路において前記始端ノードから前記終端ノードに至るまでに経由するノード及び前記ノード間の遷移を表すアークのうち少なくとも一方の全部又は一部に付与された前記ラベルの系列を示す前記情報を出力する
ことを特徴とする請求項1に記載の音声認識装置。 A label that is at least one of a phoneme and a word is given to all or a part of at least one of the nodes and an arc representing a transition between the nodes,
The output unit includes a series of labels attached to all or a part of at least one of a node passing from the start node to the end node in the first route and an arc representing a transition between the nodes. The speech recognition apparatus according to claim 1, wherein the information indicating the information is output.
前記受付部が、音声の入力を受け付けるステップと、
前記抽出部が、前記音声を用いて、音響特徴量を抽出するステップと、
前記計算部が、前記音響特徴量と、複数の前記音響モデルと、前記探索ネットワークとを用いて、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至るまでに経由するノードの系列を示す各経路に対して、複数の前記音響モデルのそれぞれに対応してスコアを計算するステップと、
前記探索部が、各前記経路のうち少なくとも1つの音響モデルに対応する前記スコアが最大である第1経路を選択することにより、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至る最適な経路である前記第1経路を探索するステップと、
前記出力部が、前記音声の認識結果である前記第1経路を示す情報を出力するステップとを含む
ことを特徴とする音声認識方法。 A first storage unit storing a plurality of acoustic models having a common number of states and a state transition structure; a start node representing a start end; a termination node representing a termination; and at least one between the start node and the termination node A speech recognition apparatus comprising: a second storage unit that stores a search network common to the plurality of acoustic models, a reception unit, an extraction unit, a calculation unit, a search unit, and an output unit A speech recognition method executed in
The accepting unit accepting voice input;
The extraction unit using the voice to extract an acoustic feature;
The calculation unit uses the acoustic feature quantity, the plurality of acoustic models, and the search network, and indicates a sequence of nodes that pass from the start node to the end node on the search network. Calculating a score corresponding to each of the plurality of acoustic models for a path;
An optimal route from the start node to the end node on the search network by the search unit selecting a first route having the maximum score corresponding to at least one acoustic model among the routes. Searching for the first route which is
And a step of outputting the information indicating the first route, which is a recognition result of the voice, to the output unit.
音声の入力を受け付ける受付手段と、
前記音声を用いて、音響特徴量を抽出する抽出手段と、
抽出された前記音響特徴量と、複数の前記音響モデルと、前記探索ネットワークとを用いて、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至るまでに経由するノードの系列を示す各経路に対して、複数の前記音響モデルのそれぞれに対応してスコアを計算する計算手段と、
各前記経路のうち少なくとも1つの音響モデルに対応する前記スコアが最大である第1経路を選択することにより、前記探索ネットワーク上で前記始端ノードから前記終端ノードに至る最適な経路である前記第1経路を探索する探索手段と、
前記音声の認識結果である前記第1経路を示す情報を出力する出力手段と
して機能させるためのプログラム。 A first storage unit storing a plurality of acoustic models having a common number of states and a state transition structure; a start node representing a start end; a termination node representing a termination; and at least one between the start node and the termination node A computer having a speech recognition apparatus comprising a second storage unit that stores a search network common to the plurality of acoustic models.
Receiving means for receiving voice input;
Extraction means for extracting an acoustic feature using the voice;
Using each of the extracted acoustic feature quantity, the plurality of acoustic models, and the search network, each path indicating a sequence of nodes that pass from the start node to the end node on the search network. On the other hand, calculation means for calculating a score corresponding to each of the plurality of acoustic models,
The first route that is the optimum route from the start node to the end node on the search network by selecting the first route having the maximum score corresponding to at least one acoustic model among the routes. Search means for searching for a route;
The program for functioning as an output means which outputs the information which shows the said 1st path | route which is the said speech recognition result.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010208760A JP5161942B2 (en) | 2010-09-17 | 2010-09-17 | Speech recognition apparatus, speech recognition method, and speech recognition program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010208760A JP5161942B2 (en) | 2010-09-17 | 2010-09-17 | Speech recognition apparatus, speech recognition method, and speech recognition program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012063651A JP2012063651A (en) | 2012-03-29 |
JP5161942B2 true JP5161942B2 (en) | 2013-03-13 |
Family
ID=46059409
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010208760A Expired - Fee Related JP5161942B2 (en) | 2010-09-17 | 2010-09-17 | Speech recognition apparatus, speech recognition method, and speech recognition program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5161942B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102434604B1 (en) * | 2016-01-05 | 2022-08-23 | 한국전자통신연구원 | Voice recognition terminal, voice recognition server and voice recognition method performing a personalized voice recognition for performing personalized voice recognition |
CN112151020B (en) * | 2019-06-28 | 2024-06-18 | 北京声智科技有限公司 | Speech recognition method, device, electronic equipment and storage medium |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3094473B2 (en) * | 1991-02-21 | 2000-10-03 | 富士通株式会社 | Dynamic programming collator |
JP2001249684A (en) * | 2000-03-02 | 2001-09-14 | Sony Corp | Device and method for recognizing speech, and recording medium |
-
2010
- 2010-09-17 JP JP2010208760A patent/JP5161942B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2012063651A (en) | 2012-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103544955B (en) | Identify the method and its electronic device of voice | |
JP4316583B2 (en) | Feature amount correction apparatus, feature amount correction method, and feature amount correction program | |
EP1215662A1 (en) | Speech recognition device and speech recognition method, and recording medium | |
JP5274711B2 (en) | Voice recognition device | |
JP5294086B2 (en) | Weight coefficient learning system and speech recognition system | |
JPWO2010061507A1 (en) | Language model creation device | |
JP4930379B2 (en) | Similar sentence search method, similar sentence search system, and similar sentence search program | |
KR100766061B1 (en) | apparatus and method for speaker adaptive | |
US20100100379A1 (en) | Voice recognition correlation rule learning system, voice recognition correlation rule learning program, and voice recognition correlation rule learning method | |
JP6618884B2 (en) | Recognition device, recognition method and program | |
JP5276610B2 (en) | Language model generation apparatus, program thereof, and speech recognition system | |
JPWO2018047421A1 (en) | Voice processing apparatus, information processing apparatus, voice processing method, and information processing method | |
JP6690484B2 (en) | Computer program for voice recognition, voice recognition device and voice recognition method | |
JP2010078877A (en) | Speech recognition device, speech recognition method, and speech recognition program | |
JP5161942B2 (en) | Speech recognition apparatus, speech recognition method, and speech recognition program | |
JP6027754B2 (en) | Adaptation device, speech recognition device, and program thereof | |
JP6562698B2 (en) | Lattice confirmation device, pattern recognition device, lattice confirmation method and program | |
JP2008241970A (en) | Speaker adaptation device, speaker adaptation method and speaker adaptation program | |
JP3914709B2 (en) | Speech recognition method and system | |
JP4586386B2 (en) | Segment-connected speech synthesizer and method | |
US20110196672A1 (en) | Voice recognition device | |
JP2006201553A (en) | Discriminative learning method, device, program, speech recognition device, program, and recording medium with recorded program thereof | |
JP2013088488A (en) | Speech search device, speech search method, and program | |
JP4877112B2 (en) | Voice processing apparatus and program | |
JP2007066237A (en) | Symbol string conversion method, voice recognition method, voice paraphrase method, symbol string conversion device, program and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120824 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120828 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121026 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121120 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121214 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151221 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |