JP2993862B2 - Signal recognition method, signal recognition device, learning method for signal recognition device, and learning device for signal recognition device - Google Patents

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【０００１】[0001]

【産業上の利用分野】本発明は、映像、画像、音声、音
響、電磁波など、数値表現が可能な種々の信号につい
て、与えられた信号を予め用意された複数の類のいずれ
かに分類し、又は認識不能であるとの結果を出力する信
号認識方法、信号認識装置、信号認識装置のための学習
方法、及び信号認識装置のための学習装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention classifies given signals, such as video, image, sound, sound, electromagnetic waves, etc., which can be expressed numerically, into one of a plurality of prepared classes. The present invention relates to a signal recognition method, a signal recognition device, a learning method for a signal recognition device, and a learning device for a signal recognition device, which output a result indicating that recognition is not possible.

【０００２】[0002]

【従来の技術】図５は、従来例の信号認識装置のブロッ
ク図である。図５に示すように、信号入力データメモリ
１２１内の信号データは、特徴抽出部１０１に入力さ
れ、特徴抽出部１０１は、入力された信号データに基づ
いて、所定の特徴パラメータを抽出した後、認識処理部
１０２に出力する。認識処理部１０２は、入力された特
徴パラメータに基づいて、映像、画像、音声、音響、電
磁波など、数値表現が可能な種々の信号の特性を認識す
る処理、すなわち分類処理を実行して、その処理結果で
ある認識結果データを認識結果データメモリ１２３に格
納する。2. Description of the Related Art FIG. 5 is a block diagram of a conventional signal recognition device. As shown in FIG. 5, the signal data in the signal input data memory 121 is input to the feature extraction unit 101, and the feature extraction unit 101 extracts a predetermined feature parameter based on the input signal data. Output to the recognition processing unit 102. The recognition processing unit 102 performs a process of recognizing characteristics of various signals that can be expressed numerically, such as video, images, audio, sound, and electromagnetic waves, based on the input characteristic parameters, that is, performs a classification process. The recognition result data, which is the processing result, is stored in the recognition result data memory 123.

【０００３】上記分類処理とは、与えられた信号を予め
用意された複数の類（以下、認識対象類という。）のい
ずれかに分類する処理である。ところが現実には、信号
認識装置に対して、認識対象類のいずれにも属さない信
号や、分類に必要な情報が十分に内在しない信号が入力
されることが起こり得る。信号認識装置は、これらの信
号が入力された場合には、認識対象類のいずれかに分類
するよりも認識不能であることを報告するほうが望まし
い。従って、認識不能（すなわち、分類不能）であるこ
とを判断するための処理をリジェクト処理と呼ぶことに
する。信号認識装置は、一般に、分類処理とリジェクト
処理の両者を実行する。The above-mentioned classification processing is a processing of classifying a given signal into one of a plurality of classes prepared in advance (hereinafter referred to as recognition target classes). However, in reality, a signal that does not belong to any of the recognition targets or a signal that does not sufficiently include information necessary for classification may be input to the signal recognition device. It is desirable that the signal recognition device, when these signals are input, report that recognition is not possible, rather than classifying them into any of the recognition targets. Therefore, processing for determining that recognition is not possible (that is, classification is not possible) is referred to as reject processing. The signal recognition device generally performs both classification processing and rejection processing.

【０００４】[0004]

【発明が解決しようとする課題】従来の信号認識装置に
おいては、分類処理に用いられるパラメータ（以下、分
類処理パラメータという。）とリジェクト処理に用いら
れるパラメータ（以下、リジェクト処理パラメータとい
う。）はそれぞれ別々に構成されて学習されていた。そ
のため、両処理の不適合が発生し、分類不能の判断も含
めた信号認識結果の正答率は必ずしも高くなかった。以
下、分類処理パラメータとリジェクト処理パラメータを
総じて認識パラメータと呼ぶ。In a conventional signal recognition apparatus, parameters used for classification processing (hereinafter, referred to as classification processing parameters) and parameters used for reject processing (hereinafter, referred to as reject processing parameters) are respectively provided. They were separately structured and learned. For this reason, incompatibility between the two processes occurs, and the correct answer rate of the signal recognition result including the determination of classification failure is not always high. Hereinafter, the classification processing parameter and the rejection processing parameter are collectively referred to as a recognition parameter.

【０００５】本発明の目的は以上の問題点を解決し、分
類処理とリジェクト処理の両処理の実行を必要とする信
号認識処理において、従来例に比較して高い正答率を得
ることができる、新規な信号認識方法、信号認識装置、
信号認識装置の学習方法、及び信号認識装置の学習装置
を提供することにある。SUMMARY OF THE INVENTION An object of the present invention is to solve the above-mentioned problems, and to obtain a higher correct answer rate in the signal recognition processing which requires execution of both the classification processing and the rejection processing as compared with the conventional example. New signal recognition method, signal recognition device,
An object of the present invention is to provide a learning method for a signal recognition device and a learning device for a signal recognition device.

【０００６】[0006]

【課題を解決するための手段】本発明に係る請求項１記
載の信号認識方法は、入力された信号を予め用意された
類に分類するための分類処理パラメータと、認識不能を
判断するためのリジェクト処理パラメータとを記憶装置
に記憶するステップと、上記記憶された分類処理パラメ
ータとリジェクト処理パラメータとを用いて、入力され
た信号を予め用意された複数の類のいずれかに分類し、
又は認識不能と判断して認識結果を出力するステップ
と、入力された信号とその信号の正解認識結果とに基づ
いて、分類の誤りとリジェクトの誤りの両者を近似する
単一の損失関数の勾配を用いて、所定の勾配探索法によ
り上記損失関数が最小化するように、上記記憶された分
類処理パラメータと上記リジェクト処理パラメータの両
者を学習して更新するステップとを含むことを特徴とす
る。According to a first aspect of the present invention, there is provided a signal recognition method for classifying an input signal into a class prepared in advance, and a classification processing parameter for determining whether or not recognition is impossible. Storing a reject processing parameter in a storage device, and using the stored classification processing parameter and reject processing parameter, classifying the input signal into one of a plurality of classes prepared in advance,
Or a step of outputting a recognition result by determining that the recognition is impossible, and a gradient of a single loss function that approximates both a classification error and a rejection error based on the input signal and the correct recognition result of the signal. And learning and updating both of the stored classification processing parameters and the rejection processing parameters so that the loss function is minimized by a predetermined gradient search method.

【０００７】また、本発明に係る請求項２記載の信号認
識装置は、入力された信号を予め用意された類に分類す
るための分類処理パラメータと、認識不能を判断するた
めのリジェクト処理パラメータとを記憶する記憶手段
と、上記分類処理パラメータと上記リジェクト処理パラ
メータとを用いて、入力された信号を予め用意された複
数の類のいずれかに分類し、又は認識不能と判断して認
識結果を出力する認識手段と、入力された信号とその信
号の正解認識結果とに基づいて、分類の誤りとリジェク
トの誤りの両者を近似する単一の損失関数の勾配を用い
て、所定の勾配探索法により上記損失関数が最小化する
ように、上記記憶された分類処理パラメータと上記リジ
ェクト処理パラメータの両者を学習して更新する更新手
段とを備えたことを特徴とする。According to a second aspect of the present invention, there is provided a signal recognition apparatus, comprising: a classification processing parameter for classifying an input signal into a class prepared in advance; and a rejection processing parameter for judging unrecognition. Using the classification processing parameter and the rejection processing parameter to classify the input signal into one of a plurality of classes prepared in advance, or determine that the recognition result is unrecognizable and determine the recognition result. A predetermined gradient search method using a single loss function gradient that approximates both a classification error and a reject error based on an output recognition unit and an input signal and a correct recognition result of the signal. And updating means for learning and updating both the stored classification processing parameters and the rejection processing parameters so that the loss function is minimized. And butterflies.

【０００８】さらに、本発明に係る請求項３記載の信号
認識装置の学習方法は、入力された信号を予め用意され
た類に分類するための分類処理パラメータと、認識不能
を判断するためのリジェクト処理パラメータとを用い
て、入力された信号を予め用意された複数の類のいずれ
かに分類し、又は認識不能と判断して認識結果を出力す
る信号認識装置の学習方法であって、入力された信号を
予め用意された類に分類するための分類処理パラメータ
と、認識不能を判断するためのリジェクト処理パラメー
タとを記憶装置に記憶するステップと、入力された信号
とその信号の正解認識結果とに基づいて、分類の誤りと
リジェクトの誤りの両者を近似する単一の損失関数の勾
配を用いて、所定の勾配探索法により上記損失関数が最
小化するように、上記記憶された分類処理パラメータと
上記リジェクト処理パラメータの両者を学習して更新す
るステップとを含むことを特徴とする。Further, according to a third aspect of the present invention, there is provided a method for learning a signal recognition apparatus, comprising: a classification processing parameter for classifying an input signal into a class prepared in advance; Using a processing parameter, the input signal is classified into any of a plurality of classes prepared in advance, or a learning method of a signal recognition device that outputs a recognition result by determining that recognition is not possible, Storing in the storage device a classification processing parameter for classifying the obtained signal into a class prepared in advance, and a rejection processing parameter for determining unrecognition, and the input signal and the correct recognition result of the signal. Based on the above, using a single gradient of the loss function that approximates both the classification error and the rejection error, the above loss function is minimized by a predetermined gradient search method, Stored classification process parameters and to learn both the reject process parameter, characterized in that it comprises the step of updating.

【０００９】またさらに、本発明に係る請求項４記載の
信号認識装置の学習装置は、入力された信号を予め用意
された類に分類するための分類処理パラメータと、認識
不能を判断するためのリジェクト処理パラメータとを用
いて、入力された信号を予め用意された複数の類のいず
れかに分類し、又は認識不能と判断して認識結果を出力
する信号認識装置の学習装置であって、入力された信号
とその信号の正解認識結果とに基づいて、分類の誤りと
リジェクトの誤りの両者を近似する単一の損失関数の勾
配を用いて、所定の勾配探索法により上記損失関数が最
小化するように、上記分類処理パラメータと上記リジェ
クト処理パラメータの両者を学習して更新する更新手段
を備えたことを特徴とする。According to a fourth aspect of the present invention, there is provided a learning apparatus for a signal recognizing apparatus, comprising: a classification processing parameter for classifying an input signal into a class prepared in advance; Using a rejection processing parameter, the input signal is classified into any of a plurality of classes prepared in advance, or a learning device of a signal recognition device that outputs a recognition result by determining that recognition is not possible, The loss function is minimized by a predetermined gradient search method using a single loss function gradient that approximates both a classification error and a reject error based on the extracted signal and the correct recognition result of the signal. And updating means for learning and updating both the classification processing parameter and the reject processing parameter.

【００１０】[0010]

【作用】請求項１記載の信号認識方法においては、入力
された信号を予め用意された類に分類するための分類処
理パラメータと、認識不能を判断するためのリジェクト
処理パラメータとを記憶装置に記憶し、上記記憶された
分類処理パラメータとリジェクト処理パラメータとを用
いて、入力された信号を予め用意された複数の類のいず
れかに分類し、又は認識不能と判断して認識結果を出力
し、入力された信号とその信号の正解認識結果とに基づ
いて、分類の誤りとリジェクトの誤りの両者を近似する
単一の損失関数の勾配を用いて、所定の勾配探索法によ
り上記損失関数が最小化するように、上記記憶された分
類処理パラメータと上記リジェクト処理パラメータの両
者を学習して更新する。According to the signal recognition method of the present invention, a classification processing parameter for classifying an input signal into a class prepared in advance and a rejection processing parameter for determining recognizability are stored in a storage device. Then, using the stored classification processing parameters and the rejection processing parameters, the input signal is classified into any of a plurality of classes prepared in advance, or the recognition result is determined to be unrecognizable, and the recognition result is output. Using a single loss function gradient that approximates both a classification error and a reject error based on the input signal and the correct recognition result of the signal, the loss function is minimized by a predetermined gradient search method. Both the stored classification processing parameters and the rejection processing parameters are learned and updated so as to be converted.

【００１１】また、請求項２記載の信号認識装置におい
ては、上記記憶手段は、入力された信号を予め用意され
た類に分類するための分類処理パラメータと、認識不能
を判断するためのリジェクト処理パラメータとを記憶す
る。次いで、上記認識手段は、上記分類処理パラメータ
と上記リジェクト処理パラメータとを用いて、入力され
た信号を予め用意された複数の類のいずれかに分類し、
又は認識不能と判断して認識結果を出力する。さらに、
上記更新手段は、入力された信号とその信号の正解認識
結果とに基づいて、分類の誤りとリジェクトの誤りの両
者を近似する単一の損失関数の勾配を用いて、所定の勾
配探索法により上記損失関数が最小化するように、上記
記憶された分類処理パラメータと上記リジェクト処理パ
ラメータの両者を学習して更新する。Further, in the signal recognition device according to the second aspect, the storage means includes a classification processing parameter for classifying an input signal into a class prepared in advance, and a rejection processing for judging an unrecognizable signal. The parameters are stored. Next, the recognition unit classifies the input signal into one of a plurality of classes prepared in advance using the classification processing parameter and the reject processing parameter,
Alternatively, it determines that recognition is not possible and outputs a recognition result. further,
The updating unit uses a single gradient of a single loss function that approximates both the classification error and the reject error based on the input signal and the correct recognition result of the signal, and performs a predetermined gradient search method. Both the stored classification processing parameters and the reject processing parameters are learned and updated so that the loss function is minimized.

【００１２】さらに、請求項３記載の信号認識装置の学
習方法においては、入力された信号を予め用意された類
に分類するための分類処理パラメータと、認識不能を判
断するためのリジェクト処理パラメータとを記憶装置に
記憶し、入力された信号とその信号の正解認識結果とに
基づいて、分類の誤りとリジェクトの誤りの両者を近似
する単一の損失関数の勾配を用いて、所定の勾配探索法
により上記損失関数が最小化するように、上記記憶され
た分類処理パラメータと上記リジェクト処理パラメータ
の両者を学習して更新する。Further, in the learning method of the signal recognition device according to the third aspect, a classification processing parameter for classifying an input signal into a class prepared in advance, and a rejection processing parameter for judging unrecognizable signal are provided. Is stored in a storage device, and a predetermined gradient search is performed using a gradient of a single loss function that approximates both a classification error and a reject error based on the input signal and the correct recognition result of the signal. Both the stored classification processing parameters and the rejection processing parameters are learned and updated so that the loss function is minimized by the method.

【００１３】またさらに、請求項４記載の信号認識装置
の学習装置においては、上記更新手段は、入力された信
号とその信号の正解認識結果とに基づいて、分類の誤り
とリジェクトの誤りの両者を近似する単一の損失関数の
勾配を用いて、所定の勾配探索法により上記損失関数が
最小化するように、上記分類処理パラメータと上記リジ
ェクト処理パラメータの両者を学習して更新する。Still further, in the learning apparatus for a signal recognition apparatus according to the fourth aspect, the updating means may include both a classification error and a reject error based on the input signal and the correct recognition result of the signal. Using the gradient of a single loss function that approximates the above, both the classification processing parameter and the reject processing parameter are learned and updated so that the loss function is minimized by a predetermined gradient search method.

【００１４】[0014]

【実施例】以下、図面を参照して本発明に係る実施例に
ついて説明する。本発明に係る本実施例の信号認識装置
は、２つの課題を同時に解くものである。課題の１つ
は、入力された信号をＫ個の認識対象類｛Ｃ₁，Ｃ₂，
…，Ｃ_K｝のいずれかに分類する分類処理であり、もう
１つの課題は、分類処理の結果の信頼性が比較的低い場
合には認識不能であるとの決定を下すリジェクト処理で
ある。記法上の便宜のため、認識不能（又は分類不能）
であることを類Ｃ₀に属すると見なす。Embodiments of the present invention will be described below with reference to the drawings. The signal recognition device of this embodiment according to the present invention solves two problems simultaneously. One of the tasks is to convert the input signal into K recognition objects {C ₁ , C ₂ ,
, C _K }, and another problem is rejection processing for determining that recognition is not possible if the reliability of the result of the classification processing is relatively low. Unrecognizable (or unclassifiable) for notational convenience
Is regarded as belonging to the class C ₀ .

【００１５】以上をまとめると、本発明に係る本実施例
の信号認識装置は、入力された信号に対して、認識不能
であるとの認識結果を出力することに相当する類Ｃ₀へ
の分類をも含んだ｛Ｃ₀，Ｃ₁，…，Ｃ_K｝の（Ｋ＋１）
個の類への分類を行う。本実施例における信号認識装置
は、図１に示すように、特徴抽出部１と、認識処理部２
と、認識パラメータ更新部３と、認識パラメータ記憶部
５０と、２つのモードスイッチ３１，３２とを備え、本
実施例は、特に、認識パラメータ更新部３を備えたこと
を特徴とする。In summary, the signal recognizing device of the present embodiment according to the present invention classifies an input signal into a class C ₀ corresponding to outputting a recognition result indicating that the signal cannot be recognized. (K + 1) of {C ₀ , C ₁ ,..., C _K }
Classify into individual classes. As shown in FIG. 1, a signal recognition device according to the present embodiment includes a feature extraction unit 1 and a recognition processing unit 2.
, A recognition parameter updating unit 3, a recognition parameter storage unit 50, and two mode switches 31 and 32. The present embodiment is characterized in that the recognition parameter updating unit 3 is particularly provided.

【００１６】本実施例の信号認識装置においては、ま
ず、特徴抽出部１は、入力信号データメモリ２１に格納
された入力信号を読み出して、その入力信号の特徴を表
わす特徴パラメータである数値又は物理量の集合である
入力パターンＸに変換して認識処理部２に出力する。次
いで、認識処理部２は、認識不能であることを示す類Ｃ
₀を含む各類｛Ｃ₀，Ｃ₁，…，Ｃ_K｝について判別関数ｇ
_k（Ｘ，Λ）（ｋ＝０，１，…，Ｋ）を計算する。ここ
で、Λは認識処理に用いられる修正又は更新可能な認識
パラメータであるが、認識パラメータΛは部分集合Λ_C
とΛ_Rからなる。Λ_Cは分類処理に用いられる分類処理パ
ラメータであり分類処理パラメータ記憶部５１に予め格
納され、Λ_Rはリジェクト処理のみに用いられるリジェ
クト処理パラメータでありリジェクト処理パラメータ記
憶部５２に予め格納される。分類処理は分類処理パラメ
ータΛ_Cのみを使用して行われる一方、リジェクト処理
は分類処理パラメータΛ_C及びリジェクト処理パラメー
タΛ_Rを使用して行われる。認識処理部２において用い
られる判別関数ｇ_k（Ｘ，Λ）は次の数１で定義され
る。なお、この明細書において、上付きの上付きの表示
又は上付きの下付きの表示は不可能であるので上付きの
みで表示し、また、下付きの上付きの表示又は下付きの
下付きの表示は不可能であるので、下付きのみで表示す
る。In the signal recognition apparatus of the present embodiment, first, the feature extracting unit 1 reads out an input signal stored in an input signal data memory 21 and reads a numerical value or a physical quantity as a feature parameter representing the feature of the input signal. Is converted to an input pattern X which is a set of Next, the recognition processing unit 2 generates a class C indicating that recognition is not possible.
Discriminant function g for each class {C ₀ , C ₁ ,..., C _K } including ₀
Calculate _k (X, Λ) (k = 0, 1,..., K). Here, Λ is a recognizable or updateable recognition parameter used in the recognition process, and the recognition parameter Λ is a subset Λ _C
And Λ _R. Lambda _C is previously stored in a classification process parameter classification processing parameter memory 51 to be used in the classification process, lambda _R is previously stored in it reject process parameter storage section 52 a reject process parameters used only in the reject treatment. While the classification process is performed using only the classification process parameter lambda _C, reject processing is performed using the classification processing parameter lambda _C and reject process parameter lambda _R. The discriminant function g _k (X, Λ) used in the recognition processing unit 2 is defined by the following equation 1. In this specification, superscript superscript display or superscript subscript display is impossible, so only superscript display is used. Also, subscript superscript display or subscript subscript Since it is impossible to display, only the subscript is displayed.

【００１７】[0017]

【数１】 ｇ_k（Ｘ，Λ） ＝ｆ（Ｘ，Λ），ｋ＝０のとき ＝δ_k（Ｘ，Λ_C），ｋ＝１，２，…，ＫのときG _k (X, Λ) = f (X, Λ), when k = 0 = δ _k (X, Λ _C ), when k = 1,2,.

【００１８】ここで、判別関数δ_k（Ｘ，Λ_C）を類Ｃ_k
の分類処理判別関数といい、ｆ（Ｘ，Λ）をリジェクト
処理判別関数という。本実施例の目的は、学習によって
分類処理パラメータΛ_Cとリジェクト処理パラメータΛ_R
の両者を更新し、分類処理とリジェクト処理の両者を実
行する認識装置の性能を向上させることにある。Here, the discriminant function δ _k (X, Λ _C ) is represented by the class C _k
And f (X, Λ) is called a rejection processing determination function. The purpose of the present embodiment is to classify processing parameters Λ _C and reject processing parameters Λ _R by learning.
In order to improve the performance of the recognition device that executes both the classification processing and the rejection processing.

【００１９】＜＜実施例の信号認識装置の構成＞＞本発
明に係る実施例の信号認識装置は、図１に示すように、
特徴抽出部１と、認識処理部２と、認識パラメータ更新
部３と、分類処理パラメータ記憶部５１とリジェクト処
理パラメータ記憶部５２とからなる認識パラメータ記憶
部５０と、２つのモードスイッチ３１，３２より構成さ
れる。<< Configuration of Signal Recognition Apparatus According to Embodiment >> A signal recognition apparatus according to an embodiment of the present invention has a structure as shown in FIG.
A feature extraction unit 1, a recognition processing unit 2, a recognition parameter updating unit 3, a recognition parameter storage unit 50 including a classification processing parameter storage unit 51 and a reject processing parameter storage unit 52, and two mode switches 31 and 32. Be composed.

【００２０】まず、入力信号データメモリ２１に格納さ
れた入力信号が読み出されて特徴抽出部１へ入力され、
特徴抽出部１は、特徴抽出処理を実行した後、その処理
結果である入力パターンを認識処理部２に出力するとと
もに、モードスイッチ３１を介して認識パラメータ更新
部３に出力する。認識処理部２は、入力パターンに基づ
いて、分類処理パラメータ記憶部５１に予め格納された
分類処理パラメータと、リジェクト処理パラメータ記憶
部５２に予め格納されたリジェクト処理パラメータと用
いて認識処理を実行し、認識結果を出力して認識結果デ
ータメモリ２３に格納する。First, the input signal stored in the input signal data memory 21 is read out and input to the feature extracting unit 1,
After executing the feature extraction process, the feature extraction unit 1 outputs an input pattern as a result of the process to the recognition processing unit 2 and outputs the input pattern to the recognition parameter update unit 3 via the mode switch 31. The recognition processing unit 2 executes recognition processing based on the input pattern using the classification processing parameters stored in the classification processing parameter storage unit 51 in advance and the reject processing parameters stored in the reject processing parameter storage unit 52 in advance. The recognition result is output and stored in the recognition result data memory 23.

【００２１】正解認識結果データメモリ２２に格納され
た正解認識結果データは、入力信号が既知であるときそ
れが｛Ｃ₀，Ｃ₁，…，Ｃ_K｝のいずれの類に分類される
べきかを表わす教師信号であり、その正解認識結果デー
タはモードスイッチ３２を介して認識パラメータ更新部
３に入力される。ここで、モードスイッチ３１及び３２
はこの実施例の学習モード（Ｔ）と認識モード（Ｒ）の
２つの動作モードを反映する。この実施例は、入力信号
が既知であるときのみ学習モードで動作し得る。The correct recognition result data stored in the correct recognition result data memory 22 is classified into {C ₀ , C ₁ ,..., C _K } when the input signal is known. And the correct answer recognition result data is input to the recognition parameter updating unit 3 via the mode switch 32. Here, the mode switches 31 and 32
Reflects the two operation modes of this embodiment, the learning mode (T) and the recognition mode (R). This embodiment can operate in the learning mode only when the input signal is known.

【００２２】学習モードであるときは、モードスイッチ
３１及び３２が連動して接点Ｔ側に切り換えられ、特徴
抽出部１から出力される入力パターンはモードスイッチ
３１を介して認識パラメータ更新部３に入力されるとと
もに、入力信号データメモリ２１に格納された既知の入
力信号に対応しかつ正解認識結果データメモリ２２に格
納された正解認識結果データはモードスイッチ３２を介
して認識パラメータ更新部３に入力される。このとき、
認識パラメータ更新部３は、既知の入力信号データから
変換された入力パターンとそれに対応する正解認識結果
データを用いて、分類処理パラメータ記憶部５１に格納
された分類処理パラメータと、リジェクト処理パラメー
タ記憶部５２に格納されたリジェクト処理パラメータの
両者の学習を行うことにより更新を行う。When in the learning mode, the mode switches 31 and 32 are switched to the contact T side in conjunction with each other, and the input pattern output from the feature extracting unit 1 is input to the recognition parameter updating unit 3 via the mode switch 31. At the same time, the correct recognition result data corresponding to the known input signal stored in the input signal data memory 21 and stored in the correct recognition result data memory 22 is input to the recognition parameter updating unit 3 via the mode switch 32. You. At this time,
The recognition parameter updating unit 3 uses the input pattern converted from the known input signal data and the corresponding correct recognition result data to execute the classification processing parameter stored in the classification processing parameter storage unit 51 and the rejection processing parameter storage unit. The update is performed by learning both of the rejection processing parameters stored in 52.

【００２３】一方、認識モードであるときは、モードス
イッチ３１及び３２が連動して接点Ｒ側に切り換えら
れ、入力パターンは認識パラメータ更新部３に入力され
ず、認識パラメータの学習による更新は行われない。On the other hand, when the recognition mode is set, the mode switches 31 and 32 are switched to the contact R side in conjunction with each other, and the input pattern is not input to the recognition parameter updating unit 3, but the recognition parameter is updated by learning. Absent.

【００２４】認識処理部２は、図２に示すように、分類
処理判別関数計算部４１と、リジェクト処理判別関数計
算部４２と、認識結果決定部４３とを備える。分類処理
判別関数計算部４１は、入力パターンＸと分類処理パラ
メータΛ_Cを用いて分類処理判別関数δ_k（Ｘ，Λ_C）
（ｋ＝１，…，Ｋ）を計算して認識結果決定部４３に出
力する。リジェクト処理判別関数計算部４２は、入力パ
ターンＸと、分類処理パラメータΛ_Cと、リジェクト処
理パラメータΛ_Rとを用いてリジェクト処理判別関数ｆ
（Ｘ，Λ）を計算して認識結果決定部４３に出力する。
認識結果決定部４３は、分類処理判別関数δ_k（Ｘ，
Λ）（＝ｇ_k（Ｘ，Λ_C））（ｋ＝１，２，…，Ｋ）とリ
ジェクト処理判別関数ｆ（Ｘ，Λ）（＝ｇ₀（Ｘ，
Λ））のそれぞれの計算結果を比較し、次の数２を満足
する類Ｃ_iを認識結果と決定判断し、認識結果データと
して出力して認識結果データメモリ２３に格納する。As shown in FIG. 2, the recognition processing section 2 includes a classification processing determination function calculation section 41, a reject processing determination function calculation section 42, and a recognition result determination section 43. Classification process discriminant function calculation section 41, the classification process discriminant function using the classification process parameter lambda _C and the input pattern _{X δ k (X, Λ C} )
(K = 1,..., K) are calculated and output to the recognition result determination unit 43. Reject process discriminant function calculation unit 42, the input pattern X and the classification processing parameter lambda _C and, reject process parameter lambda reject using the _R processing discriminant function f
(X, Λ) is calculated and output to the recognition result determination unit 43.
The recognition result determination unit 43 outputs the classification processing discrimination function δ _k (X,
Λ) (= g _k (X, Λ _C )) (k = 1, 2,..., K) and the rejection processing discriminant function f (X, Λ) (= g ₀ (X,
Comparing the respective calculated results of lambda)), to determine determines that the recognition result of the kind C _i that satisfies the following Equation 2, and stores the recognition result data memory 23 and outputs as the recognition result data.

【００２５】[0025]

【数２】 ｇ_i（Ｘ，Λ） ＝ ｍｉｎ ｇ_k（Ｘ，Λ） ｋ∈｛０，１，…，Ｋ｝G _i (X, Λ) = min g _k (X, Λ) k {0,1,..., K}

【００２６】＜＜分類処理判別関数＞＞本実施例におい
ては、分類処理判別関数計算部４１が計算する分類処理
判別関数δ_k（Ｘ，Λ_C）は、入力パターンＸの類Ｃ_kへ
の帰属度が大きいほど小さい値をとるように定義され
る。以下、分類処理判別関数の種々の例について述べ
る。分類処理判別関数の例１乃至例４は入力パターンが
Ｄ個の数値の組、すなわちＤ次元実ベクトルであると
き、すなわち次の数３で表されるときに用いることがで
きる。<< Classification Processing Discriminant Function >> In the present embodiment, the classification processing discrimination function δ _k (X, Λ _C ) calculated by the classification processing discrimination function calculation unit 41 converts the input pattern X into a class C _k . It is defined so that the larger the degree of belonging, the smaller the value. Hereinafter, various examples of the classification processing determination function will be described. Examples 1 to 4 of the classification processing discriminant function can be used when the input pattern is a set of D numerical values, that is, a D-dimensional real vector, that is, when the input pattern is represented by the following Expression 3.

【００２７】[0027]

【数３】Ｘ＝｛ｘ｝，ｘ∈Ｒ^ＤのときEquation 3] When X = {x}, x∈R ^D

【００２８】分類処理判別関数の例５乃至例１０は入力
パターンＸがＤ次元実ベクトルの列であるとき、すなわ
ち次の数４で表されるときに用いることができる。Examples 5 to 10 of the classification processing discriminant function can be used when the input pattern X is a sequence of D-dimensional real vectors, that is, when it is expressed by the following equation (4).

【００２９】[0029]

【数４】 Ｘ＝｛ｘ（１），ｘ（２），…，ｘ（Ｔ（Ｘ））｝，こ
こで、∀_tｘ（ｔ）∈Ｒ^D Equation 4] X = {x (1), x (2), ..., x (T (X))}, _{where, ∀ t x (t) ∈R} D

【００３０】ここで、Ｔ（Ｘ）は列の長さを表わす。Here, T (X) represents the length of the column.

【００３１】＜分類処理判別関数の例１＞この例では分
類処理パラメータΛ_Cは各類ごとに１つずつ用意された
Ｄ次元実ベクトルｒ_k及び類ごとに固有のＤ×Ｄ直交行
列Σ_kの集合である。[0031] <classification example of processing discriminant function 1> classification process parameters in this example lambda _C is unique to each D-dimensional real vector r _k and s, which are prepared, one for each class D × D orthogonal matrix sigma _k Is a set of

【００３２】[0032]

【数５】ｒ_k＝［ｒ_k,1 ｒ_k,2 … ｒ_k,D］^T R _k = [r _{k, 1} r _{k, 2} ... R _{k, D} ] ^T

【００３３】[0033]

【数６】 (Equation 6)

【００３４】上記数５及び数６で表わされるとき、分類
処理パラメータΛ_Ｃは次の数７で表される。[0034] As represented by the number 5 and 6, the classification processing parameter lambda _C is expressed by the following equation 7.

【００３５】[0035]

【数７】 Λ_C = {{ｒ_k,d}^D _d=1,{{σ_k,d1,d2}^D _d2=1}^D _d1=1}^K _k=1 ７ _C = {{r _{k, d} } ^D _{d = 1} , {{σ _{k, d1, d2} } ^D _{d2 = 1} } ^D _{d1 = 1} } ^K _{k = 1}

【００３６】分類処理判別関数δ_k（Ｘ，Λ_C）は、入力
パターンＸ＝｛ｘ｝と参照パターンｒ_kとのΣ_kを用いた
マハラノビス距離として次の数８で定義される。The classification process discriminant function δ _k (X, Λ _C) is defined by the following equation 8 as the Mahalanobis distance using the sigma _k of the reference pattern r _k and the input pattern X = {x}.

【００３７】[0037]

【数８】δ_k（Ｘ，Λ_C）＝ν_M（ｘ，ｒ_k，Σ_k）Equation 8] _{δ k (X, Λ C)} = ν M (x, r k, Σ k)

【００３８】ただし、関数ν_M（・）は次の数９で定義
される。The function ν _M (·) is defined by the following equation (9).

【００３９】[0039]

【数９】 ν_M（ｘ，ｒ，Σ）＝（ｘ−ｒ）^TΣ^-1（ｘ−ｒ）， ｒ∈Ｒ^D，Σ∈Ｒ^DxDのときEquation 9] _{ν M (x, r, Σ} ) = (x-r) T Σ -1 (x-r), r∈R D, when Shiguma∈R ^DxD

【００４０】ここで、Ｔは行列の転置を表す。Here, T represents transposition of a matrix.

【００４１】＜分類処理判別関数の例２＞この例では分
類処理パラメータΛ_Cは各類ごとに１つずつ用意された
Ｄ次元実ベクトルｒ_kの集合であり、次の数１０で表さ
れる。The classification process parameter lambda _C is <Example 2 of the classification process discriminant function> In this example is a set of D-dimensional real vector r _k that are prepared, one for each class, represented by the following equation 10 .

【００４２】[0042]

【数１０】Λ_C＝{{ｒ_k,d}^D _d=1}^K _k=1 １０ _C = {{r _{k, d} } ^D _{d = 1} } ^K _{k = 1}

【００４３】分類処理判別関数δ_k（Ｘ，Λ_C）は、任意
の自然数Ｌについて、Ｄ次元実ベクトル空間のＬ乗ノル
ムとして次の数１１で定義される。The classification processing discriminant function δ _k (X, Λ _C ) is defined by the following equation 11 as an L-th norm of a D-dimensional real vector space for an arbitrary natural number L.

【００４４】[0044]

【数１１】δ_k（Ｘ，Λ_C）＝ν_L（ｘ，ｒ_k）Δ _k (X, Λ _C ) = ν _L (x, r _k )

【００４５】ただし、数１１における関数ν_L（・）は
次の数１２で定義される。However, the function ν _L (·) in Equation 11 is defined by the following Equation 12.

【００４６】[0046]

【数１２】 (Equation 12)

【００４７】ここで、ｘ_d，ｒ_dはそれぞれ、Ｄ次元実ベ
クトルｘ及びｒの第ｄ要素を表わす。[0047] Here, x _d, r _d, respectively, represent the d component of the D-dimensional real vector x and r.

【００４８】＜分類処理判別関数の例３＞この例では、
分類処理パラメータΛ_Cは各類ごとに１つ又は複数個用
意されたＤ次元実ベクトルｒ⁽ⁿ⁾ _k及び対応する直交行列
Σ⁽ⁿ⁾ _kの集合である。類Ｃ_kに用意されたベクトルの総
数をＮ_kとし、数１３及び数１４としたときに、分類処
理パラメータΛ_Cは数１５で表される。<Example 3 of Classification Processing Discrimination Function> In this example,
The classification processing parameter Λ _C is a set of one or more D-dimensional real vectors r ⁽ⁿ⁾ _k and a corresponding orthogonal matrix Σ ⁽ⁿ⁾ _k prepared for each class. When the total number of vectors prepared for the class C _k is N _k and Expressions 13 and 14 are used, the classification processing parameter Λ _C is expressed by Expression 15.

【００４９】[0049]

【数１３】 ｒ⁽ⁿ⁾ _k = [ｒ⁽ⁿ⁾ _k,1 ｒ⁽ⁿ⁾ _k,2 … ｒ⁽ⁿ⁾ _k,D]^T R ⁽ⁿ⁾ _k = [r ⁽ⁿ⁾ _{k, 1} r ⁽ⁿ⁾ _{k, 2} ... r ⁽ⁿ⁾ _{k, D} ] ^T

【００５０】[0050]

【数１４】 [Equation 14]

【００５１】[0051]

【数１５】 Λ_C＝{{{ｒ⁽ⁿ⁾ _k,d}^D _d=1,{{σ⁽ⁿ⁾ _k,d1,d2}^D _d2=1}^D _d1=1}^Nk _n=1}^K _k=1 Λ _C = {{{r ⁽ⁿ⁾ _{k, d} } ^D _{d = 1} , {{σ ⁽ⁿ⁾ _{k, d1, d2} } ^D _{d2 = 1} } ^D _{d1 = 1} } ^Nk _{n = 1} } ^K _{k = 1}

【００５２】分類処理判別関数δ_k（Ｘ，Λ_C）は、任意
の正の定数ξを用いて、次の数１６のごとく定義され
る。The classification processing discriminant function δ _k (X, Λ _C ) is defined by the following equation 16 using an arbitrary positive constant ξ.

【００５３】[0053]

【数１６】 (Equation 16)

【００５４】＜分類処理判別関数の例４＞分類処理判別
関数の例３において、マハラノビス距離の代わりにＬ乗
ノルムを用いる。すなわち、数１７とするときに、分類
処理パラメータΛ_Cは数１８で表される。<Example 4 of Classification Processing Discrimination Function> In Example 3 of the classification processing discrimination function, an L-th norm is used instead of the Mahalanobis distance. That is, when the number 17, the classification processing parameter lambda _C is represented by the number 18.

【００５５】[0055]

【数１７】 ｒ⁽ⁿ⁾ _k＝[ｒ⁽ⁿ⁾ _k,1 ｒ⁽ⁿ⁾ _k,2 … ｒ⁽ⁿ⁾ _k,D]^T R ⁽ⁿ⁾ _k = [r ⁽ⁿ⁾ _{k, 1} r ⁽ⁿ⁾ _{k, 2} ... R ⁽ⁿ⁾ _{k, D} ] ^T

【数１８】 Λ_C＝{{{ｒ⁽ⁿ⁾ _k,d}^D _d=1}^Nk _n=1}^K _k=1 １８ _C = {{{r ⁽ⁿ⁾ _{k, d} } ^D _{d = 1} } ^Nk _{n = 1} } ^K _{k = 1}

【００５６】このとき、分類処理判別関数δ_k（Ｘ，
Λ_C）は次の数１９で定義される。At this time, the classification processing discrimination function δ _k (X,
Λ _C ) is defined by the following equation (19).

【００５７】[0057]

【数１９】 [Equation 19]

【００５８】＜分類処理判別関数の例５＞この例では、
入力パターンＸはＤ次元実ベクトルの列である。すなわ
ち、入力パターンＸは次の数２０で表される。<Example 5 of Classification Processing Discrimination Function> In this example,
The input pattern X is a sequence of D-dimensional real vectors. That is, the input pattern X is expressed by the following equation (20).

【００５９】[0059]

【数２０】 Ｘ＝｛ｘ（１），ｘ（２），…，ｘ（Ｔ（Ｘ））｝, ∀_tｘ（ｔ）∈Ｒ^DのときEquation 20] X = {x (1), x (2), ..., x (T (X))}, when the ∀ _t x _(t) ∈R ^D

【００６０】ここで、Ｔ（Ｘ）は列の長さを表わす。ま
たこの例では、分類処理パラメータΛ_CはＤ次元実ベク
トル列と各ベクトルに対応するＤ×Ｄ行列の集合であ
り、すなわち、数２１と数２２とするとき次の数２３で
表される。Here, T (X) represents the length of the column. Further, in this example, the classification processing parameter Λ _C is a set of a D-dimensional real vector sequence and a D × D matrix corresponding to each vector, that is, is expressed by the following Expression 23 when Expression 21 and Expression 22 are used.

【００６１】[0061]

【数２１】 ｒ⁽ⁿ⁾ _k(ｔ) = [ｒ⁽ⁿ⁾ _k,1(t) ｒ⁽ⁿ⁾ _k,2(t) … ｒ⁽ⁿ⁾ _k,D(t)]^T R ⁽ⁿ⁾ _k (t) = [r ⁽ⁿ⁾ _{k, 1} (t) r ⁽ⁿ⁾ _{k, 2} (t) ... r ⁽ⁿ⁾ _{k, D} (t)] ^T

【００６２】[0062]

【数２２】 (Equation 22)

【００６３】[0063]

【数２３】 Λ_C ＝{{{{ｒ⁽ⁿ⁾ _k,d(t)}^D _d=1,{{σ⁽ⁿ⁾ _k,d1,d2(t)}^D _d2=1}^D _d1=1}^T(n)k _t=1}^Nk _n=1}^K _k=1 ２３ _C = {{{{r ⁽ⁿ⁾ _{k, d} (t)} ^D _{d = 1} , {{σ ⁽ⁿ⁾ _{k, d1, d2} (t)} ^D _{d2 = 1} } ^D _{d1 = 1} } ^{T (n) k} _{t = 1} } ^Nk _{n = 1} } ^K _{k = 1}

【００６４】ここで、Ｎ_kは類Ｃ_kに対応するＤ次元実ベ
クトル列の総数、Ｔ⁽ⁿ⁾ _kあるいは数２３におけるＴ
（ｎ）ｋは類Ｃ_kに対応するｎ番目のＤ次元実ベクトル
列の長さである。さらにこの例では、分類処理判別関数
δ_k（Ｘ，Λ_C）は以下のように定義される。まず、入力
パターンＸを構成するベクトルの指標の集合｛１，２，
…，Ｔ（Ｘ）｝から類Ｃ_kに対応するＮ_k個のベクトル列
のｎ番目のものを構成するベクトルの指標の集合｛１，
２，…，Ｔ⁽ⁿ⁾ _k｝への写像のうち、取り扱う信号におい
て考えられ得る対応関係に相当するもののみを集めた部
分集合を考え、これをΘ⁽ⁿ⁾ _kとする。入力パターンＸを
構成するベクトルの指標ｔがΘ⁽ⁿ⁾ _kの元θによって写像
されたものをθ（ｔ）とする。これらを用いて、経路距
離関数Δ⁽ⁿ⁾ _k（Ｘ，Λ_C，θ）は次の数２４で定義され
る。Here, N _k is the total number of D-dimensional real vector sequences corresponding to the class C _k , T ⁽ⁿ⁾ _k or T ⁽ⁿ⁾ _k
(N) k is the length of the n-th D-dimensional real vector sequence corresponding to the class C _k . Further, in this example, the classification processing discrimination function δ _k (X, Λ _C ) is defined as follows. First, a set of indices {1, 2, 2,.
.., T (X)}, a set of indices {1, 1, 2} of vectors forming the n-th N _k vector sequence corresponding to the class C _k
2,..., T ⁽ⁿ⁾ _k }, consider a subset of only those that correspond to possible correspondences in the signal to be handled, and ^let this be Θ ⁽ⁿ⁾ _k . Let θ (t) be the index t of the vector forming the input pattern X mapped by the element θ of Θ ⁽ⁿ⁾ _k . Using these, the path distance function Δ ⁽ⁿ⁾ _k (X, Λ _C , θ) is defined by the following equation ⁽ 24).

【００６５】[0065]

【数２４】 (Equation 24)

【００６６】次に、累積経路距離関数δ⁽ⁿ⁾ _k（Ｘ，
Λ_C）は、上記で定義された経路距離関数Δ⁽ⁿ⁾ _k（Ｘ，
Λ_C，θ）を用いて、次の数２５のように定義する。Next, the cumulative path distance function δ ⁽ⁿ⁾ _k (X,
Λ _C ) is the path distance function Δ ⁽ⁿ⁾ _k (X,
Λ _C , θ) is defined as in the following Expression 25.

【００６７】[0067]

【数２５】 (Equation 25)

【００６８】ここで、ηは任意の正の定数であり、│Θ
⁽ⁿ⁾ _k｜はΘ⁽ⁿ⁾ _kの元の総数である。最後に、上記で定義
された累積経路距離関数δ⁽ⁿ⁾ _k（Ｘ，Λ_C）を用いて次
の数２６で表される分類処理判別関数δ_k（Ｘ，Λ_C）を
定義する。Here, η is an arbitrary positive constant, and | Θ
⁽ⁿ⁾ _k | is the total number of elements of Θ ⁽ⁿ⁾ _k . Finally, a classification processing discriminant function δ _k (X, Λ _C ) represented by the following equation 26 is defined using the cumulative path distance function δ ⁽ⁿ⁾ _k (X, Λ _C ) defined above.

【００６９】[0069]

【数２６】 (Equation 26)

【００７０】ここで、ξは任意の正の定数である。Here, ξ is an arbitrary positive constant.

【００７１】＜分類処理判別関数の例６＞この例では、
入力パターンＸはＤ次元実ベクトルの列であり、次の数
２７で表される。<Example 6 of Classification Processing Discrimination Function> In this example,
The input pattern X is a sequence of D-dimensional real vectors, and is represented by the following Expression 27.

【００７２】[0072]

【数２７】 Ｘ＝｛ｘ（１），ｘ（２），…，ｘ（Ｔ（Ｘ））｝ ∀_tｘ（ｔ）∈Ｒ^ＤのときEquation 27] X = {x (1), x (2), ..., x (T (X))} When ∀ _t x _(t) ∈R ^D

【００７３】ここで、Ｔ（Ｘ）は列の長さを表わす。ま
たこの例では、分類処理パラメータΛ_CはＤ次元実ベク
トルとＤ×Ｄ行列及び各ベクトルに対応する重みパラメ
ータの集合の列である。すなわち、数２８及び数２９で
表されるときに、分類処理パラメータΛ_Cは、数３０で
表される。Here, T (X) represents the length of the column. In this example, the classification process parameter lambda _C is a sequence of sets of weighting parameters corresponding to the D-dimensional real vector and D × D matrix and each vector. That is, when represented by the number 28 and number 29, the classification processing parameter lambda _C is represented by the number 30.

【００７４】[0074]

【数２８】 ｒ⁽ⁿ⁾ _k(ｔ)＝[ｒ⁽ⁿ⁾ _k,1(ｔ) ｒ⁽ⁿ⁾ _k,2(t) … ｒ⁽ⁿ⁾ _k,D(t)]^T R ⁽ⁿ⁾ _k (t) = [r ⁽ⁿ⁾ _{k, 1} (t) r ⁽ⁿ⁾ _{k, 2} (t) ... r ⁽ⁿ⁾ _{k, D} (t)] ^T

【００７５】[0075]

【数２９】 (Equation 29)

【００７６】[0076]

【数３０】 Λ_C ＝{{{{ｒ⁽ⁿ⁾ _k,d(t)}^D _d=1,{{σ⁽ⁿ⁾ _k,d1,d2(t)}^D _d2=1}^D _d1=1,ｗ_n(t) }^Nk(t) _n=1}^Tk _t=1}^K _k=1 ３０ _C = {{{{r ⁽ⁿ⁾ _{k, d} (t)} ^D _{d = 1} , {{σ ⁽ⁿ⁾ _{k, d1, d2} (t)} ^D _{d2 = 1} } ^D _{d1 = 1} , w _n (t)} ^{Nk (t)} _{n = 1} } ^Tk _{t = 1} } ^K _{k = 1}

【００７７】ここで、Ｔ_kまたは数３０におけるＴｋは
類Ｃ_kに対応するベクトル集合列の長さであり、Ｎ
_k（ｔ）または数３０におけるＮｋ（ｔ）は類Ｃ_kに対応
するｔ番目のベクトル集合に含まれるベクトルの総数で
ある。さらにこの例では、分類処理判別関数δ_k（Ｘ，
Λ_C）は以下のように定義される。まず、入力パターン
Ｘを構成するベクトルの指標の集合｛１，２，…，Ｔ
（Ｘ）｝から類Ｃ_kに対応する分類処理パラメータであ
るベクトル集合列を構成するベクトル集合の指標の集合
｛１，２，…，Ｔ_k｝への写像のうち、取り扱う信号に
おいて考えられ得る対応関係に相当するもののみを集め
た部分集合を考え、これをΘ_kとする。入力パターンＸ
を構成するベクトルの指標ｔがΘ_kの元θによって写像
されたものをθ（ｔ）とする。これらを用いて、経路距
離関数Δ_k(Ｘ,Λ_C,θ)は次の数３１のように定義され
る。Here, T _k or T _k in Equation 30 is the length of the vector set sequence corresponding to the class C _k.
k (t) or Nk (t) in Equation 30 is the total number of vectors included in the t-th vector set corresponding to the class C _k . Further, in this example, the classification processing discrimination function δ _k (X,
Lambda _C) is defined as follows. First, a set of indices of vectors constituting the input pattern X {1, 2,.
Of the mapping from (X)} to the index set {1, 2,..., T _k } of the vector set constituting the vector set sequence which is the classification processing parameter corresponding to the class C _k , it can be considered in the signal to be handled. Consider a subset of only those that correspond to the correspondence, and let this be Θ _k . Input pattern X
The what index t vectors are mapped by the original theta of theta _k and theta (t) constituting. Using these, the path distance function Δ _k (X, Λ _C , θ) is defined as in the following Expression 31.

【００７８】[0078]

【数３１】 (Equation 31)

【００７９】ここで、ξは任意の正の定数であり、Where ξ is an arbitrary positive constant,

【００８０】[0080]

【数３２】 (Equation 32)

【００８１】次に、上記で定義された経路距離関数Δ_k
（Ｘ，Λ_C，θ）を用いて、分類処理判別関数δ_k（Ｘ，
Λ_Ｃ）は次の数３３のように定義される。Next, the path distance function Δ _k defined above
Using (X, Λ _C , θ), the classification processing discriminant function δ _k (X,
Λ _C ) is defined as in the following Expression 33.

【００８２】[0082]

【数３３】 [Equation 33]

【００８３】ここで、ηは任意の正の定数であり、｜Θ
_k｜はΘ_kの元の総数である。Here, η is an arbitrary positive constant, and | Θ
_k | is the total number of the original Θ _k.

【００８４】＜分類処理判別関数の例７＞分類処理判別
関数の例５において、マハラノビス距離ν_M（・）の代
わりにＬ乗ノルム距離ν_L（・）を用いる。すなわち、
分類処理パラメータΛ_Cは、次の数３４で表される。<Example 7 of Classification Processing Discrimination Function> In Example 5 of the classification processing discrimination function, an L-th norm distance ν _L (•) is used instead of the Mahalanobis distance ν _M (•). That is,
Classification processing parameter lambda _C is expressed by the following equation 34.

【００８５】[0085]

【数３４】 Λ_C＝{{{{ｒ⁽ⁿ⁾ _k,d(ｔ)}^D _d=1}^T(n)k _t=1}^Nk _n=1}^K _k=1 ３４ _C = {{{{r ⁽ⁿ⁾ _{k, d} (t)} ^D _{d = 1} } ^{T (n) k} _{t = 1} } ^Nk _{n = 1} } ^K _{k = 1}

【００８６】経路距離関数Δ^（ｎ） _ｋ（Ｘ，Λ_C，θ）
は、次の数３５で表される。Path distance function Δ ⁽ⁿ⁾ _k (X, Λ _C , θ)
Is represented by the following Expression 35.

【００８７】[0087]

【数３５】 (Equation 35)

【００８８】＜分類処理判別関数の例８＞分類処理判別
関数の例６において、マハラノビス距離ν_M（・）の代
わりにＬ乗ノルム距離ν_L（・）を用いる。すなわち、
分類処理パラメータΛ_Cは次の数３６で表される。<Example 8 of Classification Processing Discrimination Function> In Example 6 of the classification processing discrimination function, an L-th norm distance ν _L (•) is used instead of the Mahalanobis distance ν _M (•). That is,
Classification processing parameter lambda _C is expressed by the following equation 36.

【００８９】[0089]

【数３６】 Λ_C＝{{{{ｒ⁽ⁿ⁾ _k,d(ｔ)}^D _d=1,ｗ_n(ｔ)}^Nk(t) _n=1}^Tk _t=1}^K _k=1 ３６ _C = {{{{r ⁽ⁿ⁾ _{k, d} (t)} ^D _{d = 1} , w _n (t)} ^{Nk (t)} _{n = 1} } ^Tk _{t = 1} } ^K _{k = 1}

【００９０】経路距離関数Δ_k（Ｘ，Λ_C，θ）は次の数
３７で定義される。The path distance function Δ _k (X, Λ _C , θ) is defined by the following equation (37).

【００９１】[0091]

【数３７】 (37)

【００９２】＜分類処理判別関数の例９＞この例では、
分類処理パラメータΛ_CはＤ次元実ベクトルとＤ×Ｄ行
列の集合の列の集合である。この場合の分類処理パラメ
ータΛ_Cの内容及び分類処理判別関数δ_k（Ｘ，Λ_C）の
定義は、分類処理判別関数の例５と分類処理判別関数の
例６から容易に導かれる。<Example 9 of Classification Processing Discrimination Function> In this example,
Classification processing parameter lambda _C is a set of columns of the set of D-dimensional real vector and D × D matrix. In this case, the contents of the classification processing parameter Λ _C and the definition of the classification processing discrimination function δ _k (X, Λ _C ) are easily derived from Example 5 of the classification processing discrimination function and Example 6 of the classification processing discrimination function.

【００９３】＜分類処理判別関数の例１０＞この例で
は、分類処理パラメータΛ_CはＤ次元実ベクトル及び各
ベクトルに対応する重みパラメータの集合の列の集合で
ある。この場合の分類処理パラメータΛ_Cの内容及び分
類処理判別関数δ_k（Ｘ，Λ_C）の定義は、分類処理判別
関数の例７と分類処理判別関数の例８から容易に導かれ
る。[0093] In <Example 10 of the classification process discriminant function> this example, the classification processing parameter lambda _C is a set of columns of a set of weight parameters corresponding to the D-dimensional real vector and each vector. In this case, the contents of the classification processing parameter Λ _C and the definition of the classification processing discrimination function δ _k (X, Λ _C ) are easily derived from Example 7 of the classification processing discrimination function and Example 8 of the classification processing discrimination function.

【００９４】＜＜リジェクト処理判別関数＞＞リジェク
ト処理判別関数計算部４２が計算するリジェクト処理判
別関数は、入力パターンＸに対する類｛Ｃ₁，Ｃ₂，…，
Ｃ_K｝への分類処理の信頼度を測る尺度であり、本実施
例においては、信頼度が低いほどその値が小さくなるよ
うに定義される。以下、リジェクト処理判別関数ｆ
（Ｘ，Λ）の種々の例について述べる。<< Reject Process Discriminant Function >> The reject process discriminant function calculated by the reject process discriminant function calculator 42 is of the kind {C ₁ , C ₂ ,.
This is a measure for measuring the reliability of the classification process into C _K 、, and in the present embodiment, is defined such that the lower the reliability, the smaller the value. Hereinafter, the rejection processing determination function f
Various examples of (X, Λ) will be described.

【００９５】＜リジェクト処理判別関数の例１＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、類｛Ｃ
₁，Ｃ₂，…，Ｃ_k｝の分類処理判別関数の平均に１つの
変数を乗じたものとして次の数３８で定義される。<Example 1 of rejection processing determination function> In this example, the rejection processing determination function f (X, Λ)
_1, C _2, ..., it is defined by the following equation 38 as multiplied by the mean single variable classification processing discriminant function C _k}.

【００９６】[0096]

【数３８】 (38)

【００９７】このとき、リジェクト処理パラメータΛ_R
は次の数３９で表される。At this time, the reject processing parameter Λ _R
Is represented by the following Expression 39.

【００９８】[0098]

【数３９】Λ_R＝｛ｈ｝[Equation 39] Λ _R = {h}

【００９９】＜リジェクト処理判別関数の例２＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、類｛Ｃ
₁，Ｃ₂，…，Ｃ_K｝の分類処理判別関数の荷重平均とし
て次の数４０で定義される。<Example 2 of rejection processing determination function> In this example, the rejection processing determination function f (X, Λ)
_1, C _2, ..., it is defined by the following equation 40 as a weighted average of the classification process discriminant function C _K}.

【０１００】[0100]

【数４０】 (Equation 40)

【０１０１】このとき、リジェクト処理パラメータΛ_R
は次の数４１で表される。At this time, the reject processing parameter Λ _R
Is represented by the following equation 41.

【０１０２】[0102]

【数４１】Λ_R＝｛ｈ₁，ｈ₂，…，ｈ_K｝４１ _R = {h ₁ , h ₂ , ..., h _K }

【０１０３】＜リジェクト処理判別関数の例３＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、任意の
正の定数ζを用いて、次の数４２で定義される。<Example 3 of rejection processing determination function> In this example, the rejection processing determination function f (X, Λ) is defined by the following equation 42 using an arbitrary positive constant ζ.

【０１０４】[0104]

【数４２】 (Equation 42)

【０１０５】このとき、リジェクト処理パラメータΛ_R
は、次の数４３で表される。At this time, the reject processing parameter Λ _R
Is represented by the following Expression 43.

【０１０６】[0106]

【数４３】Λ_R＝｛ｈ｝[Equation 43] Λ _R = {h}

【０１０７】＜リジェクト処理判別関数の例４＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、任意の
正の定数ζを用いて、次の数４４で定義される。<Example 4 of rejection processing discrimination function> In this example, the rejection processing discrimination function f (X, Λ) is defined by the following equation 44 using an arbitrary positive constant ζ.

【０１０８】[0108]

【数４４】 [Equation 44]

【０１０９】このとき、リジェクト処理パラメータΛ_R
は次の数４５で表される。At this time, the reject processing parameter Λ _R
Is represented by the following equation 45.

【０１１０】[0110]

【数４５】Λ_R＝｛ｈ₁，ｈ₂，…，ｈ_K｝４５ _R = {h ₁ , h ₂ , ..., h _K }

【０１１１】＜リジェクト処理判別関数の例５＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、任意の
正の定数ζ及びＭ（＜Ｋ）なる自然数を用いて、次の数
４６で定義される。<Example 5 of rejection processing discrimination function> In this example, the rejection processing discrimination function f (X, Λ) is obtained by using an arbitrary positive constant ζ and a natural number M (<K) as follows: Is defined by

【０１１２】[0112]

【数４６】 [Equation 46]

【０１１３】ここで、_KＰ_Mは、Ｋ個の類｛Ｃ₁，Ｃ₂，
…，Ｃ_K｝からＭ個の類を重複なく取り出す順列の総数
であり、また、関数γ^M _p（Ｘ，Λ）は次の数４７で表さ
れる。[0113] Here, _K P _M is, K number of classes {C _1, C _2,
, C _K } is the total number of permutations from which M classes are extracted without duplication, and the function γ ^M _p (X, Λ) is represented by the following equation 47.

【０１１４】[0114]

【数４７】 Ｍ γ^M _p(Ｘ,Λ)＝(１／Ｍ) Σ δ_k(p,m)(Ｘ,Λ) ｍ＝１(47) M γ ^M _p (X, Λ) = (1 / M) Σδ _{k (p, m)} (X, Λ) m = 1

【０１１５】ただし、ｋ（ｐ，ｍ）は、Ｋ個の類
｛Ｃ₁，Ｃ₂，…，Ｃ_K｝からＭ個の類を重複なく取り出
す順列の第ｐ番目のものにおいて、ｍ番目に取り出され
る類の指標である。このとき、リジェクト処理パラメー
タΛ_Rは次の数４８で表される。Here, k (p, m) is the m-th one of the p-th permutations of M classes from the _K classes {C ₁ , C ₂ ,... It is an index of the kind that is taken out. In this case, the reject processing parameter lambda _R is expressed by the following equation 48.

【０１１６】[0116]

【数４８】Λ_R＝｛ｈ｝[Equation 48] Λ _R = {h}

【０１１７】＜リジェクト処理判別関数の例６＞この例
では、リジェクト処理判別関数ｆ（Ｘ，Λ）は、任意の
正の定数ζ及びＭ（＜Ｋ）なる自然数を用いて、次の数
４９で定義される。<Example 6 of rejection processing discrimination function> In this example, the rejection processing discrimination function f (X, Λ) is obtained by using an arbitrary positive constant ζ and a natural number M (<K) as follows: Is defined by

【０１１８】[0118]

【数４９】 _KＰ_M ｆ(Ｘ,Λ)＝ｌｎ{(１／_KＰ_M) Σ ｅｘｐ(−ζγ^M _p(Ｘ,Λ))}^-1/ζ ｐ＝１ ここで、 _K p _M f (X, Λ) = ln {(1 / _K P _M ) Σexp (−ζγ ^M _p (X, Λ))} ^{-1 /} ζ p = 1 where

【数５０】 Ｍ γ^M _p(Ｘ,Λ)＝(１／Ｍ) Σ ｅｘｐ(ｈ_k(p,m))δ_k(p,m)(Ｘ,Λ_C) ｍ＝１M γ ^M _p (X, Λ) = (1 / M) Σexp (h _{k (p, m)} ) δ _{k (p, m)} (X, Λ _C ) m = 1

【０１１９】このとき、リジェクト処理パラメータΛ_R
は次の数５１で表される。At this time, the reject processing parameter Λ _R
Is represented by the following equation 51.

【０１２０】[0120]

【数５１】Λ_R＝｛ｈ₁，ｈ₂，…，ｈ_K｝５１ _R = {h ₁ , h ₂ , ..., h _K }

【０１２１】＜リジェクト処理判別関数の例７＞この例
では、リジェクト処理判別関数の例５において、関数γ
^M _p（Ｘ，Λ）の定義を次の数５２のように変更したもの
が用いられる。<Example 7 of rejection processing determination function> In this example, the function γ is used in Example 5 of the rejection processing determination function.
The definition of ^M _p (X, Λ) changed as in the following Expression 52 is used.

【０１２２】[0122]

【数５２】 Ｍ γ^M _p(Ｘ,Λ)＝ｅｘｐ(ｈ)・(１／Ｍ) Σ ｗ_mδ_k(p,m)(Ｘ,Λ_C) ｍ＝１M γ ^M _p (X, Λ) = exp (h) · (1 / M) Σ w _m δk _{(p, m)} (X, Λ _C ) m = 1

【０１２３】重み係数ｗ₁，ｗ₂，…，ｗ_Mはそれぞれ正
の定数である。このとき、リジェクト処理パラメータΛ
_Rは次の数５３で表される。The weight coefficients w ₁ , w ₂ ,..., W _M are positive constants. At this time, the reject processing parameter Λ
_R is represented by the following equation 53.

【０１２４】[0124]

【数５３】Λ_R＝｛ｈ｝[Equation 53] Λ _R = {h}

【０１２５】＜リジェクト処理判別関数の例８＞この例
では、リジェクト処理判別関数の例６において、関数γ
^M _p（Ｘ，Λ）の定義を次の数５４のように変更したもの
が用いられる。<Example 8 of rejection processing determination function> In this example, the function γ
The definition of ^M _p (X, Λ) changed as in the following Expression 54 is used.

【０１２６】[0126]

【数５４】 Ｍ γ^M _p(Ｘ,Λ)＝(１／Ｍ) Σ ｗ_mｅｘｐ(ｈ_k(p,m))δ_k(p,m)(Ｘ,Λ_C) ｍ＝１M γ ^M _p (X, Λ) = (1 / M) Σ w _m exp (h _{k (p, m)} ) δ _{k (p, m)} (X, Λ _C ) m = 1

【０１２７】ここで、重み係数ｗ₁，ｗ₂，…，ｗ_Mはそ
れぞれ正の定数である。このとき、リジェクト処理パラ
メータΛ_Rは次の数５５で表される。Here, the weighting factors w ₁ , w ₂ ,..., W _M are positive constants. In this case, the reject processing parameter lambda _R is expressed by the following equation 55.

【０１２８】[0128]

【数５５】Λ_R＝｛ｈ₁，ｈ₂，…，ｈ_K｝数_R = {h ₁ , h ₂ , ..., h _K }

【０１２９】＜＜認識結果の決定＞＞認識結果決定部４
３は、類｛Ｃ₀，Ｃ₁，…，Ｃ_K｝のうち、対応する判別
関数の値が最小値を取る類を認識結果と決定して認識結
果データとして出力して認識結果データメモリ２３に格
納する。言い換えれば、類｛Ｃ₁，Ｃ₂，…，Ｃ_K｝の中
で判別関数が最小となる類（いま、仮にＣ_jとする。）
の判別関数ｇ_j（Ｘ，Λ）が判別関数ｇ₀（Ｘ，Λ）より
も小さければ類Ｃ_jを認識結果と決定して認識結果デー
タとして出力するが、判別関数ｇ₀（Ｘ，Λ）よりも小
さくなければ、そのＣ_jへの分類を決定せず、認識不能
と判断して認識不能という認識結果を出力する。判別関
数ｇ₀（Ｘ，Λ）は類｛Ｃ₁，Ｃ₂，…，Ｃ_K｝への分類の
信頼性が低いほど小さな値を取るように定義されるの
で、結果的に、信頼性の低い認識判断の回避又は留保を
実現する。<< Determination of Recognition Result >> Recognition Result Determination Unit 4
3 determines a class in which the value of the corresponding discriminant function takes the minimum value among the classes {C ₀ , C ₁ ,..., C _K } as a recognition result and outputs it as recognition result data, and outputs the recognition result data memory 23. To be stored. In other words, class _{{C 1, C 2, ...} , C K} s of the discriminant function is minimized in the (now assumed as C _j.)
Of discriminant function g _j (X, Λ) is outputted as a discriminant function g ₀ (X, Λ) is smaller than the recognition by the recognition result and determine the class C _j result data, the discriminant function g ₀ (X, lambda If it is not smaller than), the classification to C _j is not determined, and it is determined that recognition is not possible, and a recognition result indicating that recognition is not possible is output. The discriminant function g ₀ (X, Λ) is defined so as to take a smaller value as the reliability of the classification into the class {C ₁ , C ₂ ,..., _CK } becomes lower. Avoidance or reservation of low recognition judgment is realized.

【０１３０】＜＜認識パラメータの学習＞＞以上のよう
に説明した方法により、信号を認識対象類に分類あるい
は認識不能の報告を行うような信号認識を行うことがで
きる。ただし、未知の信号に対して信号認識装置が出力
する認識結果の正答率は、分類処理パラメータ及びリジ
ェクト処理パラメータからなる認識パラメータの内容に
よって左右されるので、高い正答率を得るためには認識
パラメータを最適化する学習を実施すべきである。しか
しながら、従来は、分類処理パラメータの学習において
は類Ｃ₀とその他の類との分類が考慮されず、リジェク
ト処理パラメータの学習においては類｛Ｃ₁，Ｃ₂，…，
Ｃ_k｝間の分類が考慮されなかった。このため、分類処
理パラメータ及びリジェクト処理パラメータの両者を用
いて信号を類｛Ｃ₀，Ｃ₁，…，Ｃ_K｝に分類する信号認
識装置を総合的に最適化することはできず、結果として
高い正答率を得ることができなかった。これに対して、
本発明の実施例の認識パラメータ更新部３は、認識不能
を報告することに相当する類を含むすべての類｛Ｃ₀，
Ｃ_１，…，Ｃ_Ｋ｝を考慮して分類処理パラメータとリジ
ェクト処理パラメータの両者を同時に最適化することが
でき、従来例に比較して高い正答率を得ることができ
る。<< Learning of Recognition Parameter >> According to the method described above, signal recognition can be performed such that a signal is classified into a recognition target or a report of non-recognition is made. However, since the correct answer rate of the recognition result output by the signal recognition apparatus for an unknown signal depends on the content of the recognition parameter including the classification processing parameter and the rejection processing parameter, the recognition parameter is required to obtain a high correct answer rate. Should be implemented to optimize. However, conventionally, the classification of the class C ₀ and the other classes has not been considered in the learning of the classification processing parameters, and the classes {C ₁ , C ₂ ,.
The classification between C _k ｝ was not considered. For this reason, it is impossible to comprehensively optimize a signal recognition device that classifies signals into classes {C ₀ , C ₁ ,..., _CK } using both the classification processing parameter and the rejection processing parameter. Could not get a high correct answer rate. On the contrary,
The recognition parameter updating unit 3 according to the embodiment of the present invention performs all types {C ₀ ,
It is possible to simultaneously optimize both the classification processing parameter and the rejection processing parameter in consideration of C ₁ ,..., C _K }, and obtain a higher correct answer rate than the conventional example.

【０１３１】本実施例において認識パラメータΛ＝｛Λ
_C，Λ_R｝を学習する方法について以下に述べる。図１に
おいてこの実施例が学習モードにあるとき、すなわちモ
ードスイッチ３１及び３２が連動して接点Ｔ側に切り換
えられたときに、入力パターンＸとそれに対応する正解
認識結果データが正解認識結果データメモリ２２から読
み出されて認識パラメータ更新部３に入力される。以
下、正解認識結果データの示す正解認識結果の類をＣ_j
とする。すなわち、Ｃ_j∈｛Ｃ₀，Ｃ₁，…，Ｃ_K｝であ
る。認識パラメータ更新部３は入力パターンＸと、認識
パラメータΛと、正解認識結果Ｃ_jを用いて認識パラメ
ータΛの更新量ΔΛを計算し、次の数５６によって認識
パラメータΛを更新する。In this embodiment, the recognition parameter Λ = ｛Λ
_The method of learning _C , { _R } is described below. In FIG. 1, when the embodiment is in the learning mode, that is, when the mode switches 31 and 32 are switched to the contact T side in conjunction with each other, the input pattern X and the corresponding correct recognition result data are stored in the correct recognition result data memory. 22 and input to the recognition parameter updating unit 3. Hereinafter, the class of the correct recognition result indicated by the correct recognition result data is C _j
And That is, C _j {C ₀ , C ₁ ,..., C _K }. The recognition parameter updating unit 3 calculates the update amount ΔΛ of the recognition parameter Λ using the input pattern X, the recognition parameter Λ, and the correct recognition result C _j, and updates the recognition parameter に よ っ て by the following equation 56.

【０１３２】[0132]

【数５６】Λ←Λ＋ΔΛ[Equation 56] Λ ← Λ + ΔΛ

【０１３３】学習モードにおいて、入力パターンＸが与
えられるたびに認識パラメータ更新部３で上記の数５６
による認識パラメータΛの更新が実行されることによ
り、分類処理パラメータΛ_Cとリジェクト処理パラメー
タΛ_Rの両者が同時に学習され、結果として本実施例の
信号認識装置の正答率を向上させることができる。In the learning mode, every time an input pattern X is given, the recognition parameter updating unit 3
By updating the recognition parameters lambda by is performed, both the classification process parameter lambda _C and reject process parameter lambda _R is learned simultaneously, it is possible to improve the correct rate of the signal recognition device of the present embodiment as a result.

【０１３４】＜＜認識パラメータの更新量の計算＞＞認
識パラメータの更新量ΔΛの計算の方法について以下に
述べる。まず、誤分類測度ｄ（Ｘ，Λ）が次の数５７に
よって定義される。<< Calculation of Recognition Parameter Update Amount >> A method of calculating the recognition parameter update amount ΔΛ will be described below. First, the misclassification measure d (X, Λ) is defined by the following equation 57.

【０１３５】[0135]

【数５７】 [Equation 57]

【０１３６】ここで、μは正の定数である。定数μの絶
対値が十分大きいとき、誤分類測度ｄ（Ｘ，Λ）は、定
数μの絶対値を無限大に近付けたときの誤分類測度ｄ
（Ｘ，Λ）の極限を次の数５８のごとく近似する。Here, μ is a positive constant. When the absolute value of the constant μ is sufficiently large, the misclassification measure d (X, Λ) is the misclassification measure d when the absolute value of the constant μ approaches infinity.
The limit of (X, Λ) is approximated as in the following Expression 58.

【０１３７】[0137]

【数５８】 [Equation 58]

【０１３８】ここで、類｛Ｃ₀，Ｃ₁，…，Ｃ_K｝の中で
判別関数が最小となる類、すなわち認識結果の類をＣ_i
とすると、数５８の右辺は、ｉ＝ｊのとき、すなわち認
識結果が正しいとき負の値をとり、ｉ≠ｊのとき、すな
わち認識結果が誤っているとき正の値をとることにな
る。次に、損失関数ｌ（Ｘ，Λ）が次の数５９で定義さ
れる。Here, of the classes {C ₀ , C ₁ ,..., C _K }, the class whose discriminant function is the minimum, that is, the class of the recognition result is C _i
Then, the right side of Expression 58 takes a negative value when i = j, that is, when the recognition result is correct, and takes a positive value when i ≠ j, that is, when the recognition result is incorrect. Next, the loss function l (X, Λ) is defined by the following equation 59.

【０１３９】[0139]

【数５９】ｌ（Ｘ，Λ）＝σ（ｄ（Ｘ，Λ））L (X, ５９) = σ (d (X, Λ))

【０１４０】ここで、スカラ関数σ（ｘ）は、次の数６
０で定義されるステップ関数ｂ（ｘ）を近似する連続か
つ１次微分可能な関数である。Here, the scalar function σ (x) is given by
It is a continuous and first-order differentiable function approximating the step function b (x) defined by 0.

【０１４１】[0141]

【数６０】 ｂ(ｘ)＝０，ｘ＜０のとき ＝１，ｘ≧０のときWhen b (x) = 0, x <0 = 1, When x ≧ 0

【０１４２】以下、関数σ（ｘ）を近似ステップ関数と
呼ぶことにする。以下に、本実施例において用いること
ができる種々の近似ステップ関数の例をあげる。Hereinafter, the function σ (x) will be referred to as an approximate step function. Hereinafter, examples of various approximate step functions that can be used in the present embodiment will be described.

【０１４３】＜近似ステップ関数の例１＞近似ステップ
関数の例１は図３に示すように図示され、次の数６１で
表される。<Example 1 of Approximate Step Function> An example 1 of the approximate step function is shown in FIG.

【０１４４】[0144]

【数６１】σ（ｘ）＝１／｛１＋ｅｘｐ（−αｘ）｝６１ (x) = 1 / {1 + exp (−αx)}

【０１４５】ここで、αは正の定数であり、その絶対値
が大きいほどスカラ関数σ（ｘ）はステップ関数ｂ
（ｘ）に近づく。Here, α is a positive constant, and the scalar function σ (x) becomes larger as the absolute value becomes larger.
(X) is approached.

【０１４６】＜近似ステップ関数の例２＞近似ステップ
関数の例２は、図４に示すように図示され、次の数６２
で表される。<Example 2 of Approximate Step Function> An example 2 of the approximate step function is shown in FIG.
It is represented by

【０１４７】[0147]

【数６２】 σ（ｘ） ＝０，ｘ＜０のとき ＝αｘ，０≦ｘ＜（１／α）のとき ＝１，（１／α）≦ｘのときWhen σ (x) = 0, x <0 = αx, when 0 ≦ x <(1 / α) = 1, when (1 / α) ≦ x

【０１４８】ここで、αは正の定数であり、その絶対値
が大きいほどスカラ関数σ（ｘ）はステップ関数ｂ
（ｘ）に近づく。Here, α is a positive constant, and the scalar function σ (x) becomes larger as the absolute value becomes larger.
(X) is approached.

【０１４９】以上を総合すると、損失関数ｌ（Ｘ，Λ）
は、入力パターンＸの認識結果Ｃ_iが正しいとき０であ
り、誤りであるとき１となる２値関数を近似する、連続
かつ１次微分可能な関数である。従って、入力パターン
Ｘの母集団における損失関数ｌ（Ｘ，Λ）の期待値Ｅ
［ｌ（Ｘ，Λ）］は、信号認識装置による信号認識処理
の誤認識率を近似しており、これを最小化するように認
識パラメータΛを学習させると、分類処理とリジェクト
処理の両者からなる信号認識処理の認識性能を向上する
ことができる。損失関数ｌ（Ｘ，Λ）の期待値を最小化
するように認識パラメータ集合Λを学習させるための方
法は数多く存在する。特に、ここで述べた例では、損失
関数ｌ（Ｘ，Λ）が認識パラメータ集合Λについて１次
微分可能であるので、処理量が比較的少ない勾配探索法
の一種である一般化確率的降下法を用いることができ
る。一般化確率的降下法に基づいて認識パラメータ集合
Λを学習させるには、次の数６３に従って計算したΔΛ
を用いて認識パラメータ集合Λを更新していけばよい。Summing up the above, the loss function l (X, Λ)
Is 0 when the recognition result C _i of the input pattern X is correct, to approximate the binary function that is 1 when an error is continuous and primary differentiable function. Therefore, the expected value E of the loss function l (X, Λ) in the population of the input pattern X
[L (X, Λ)] approximates the erroneous recognition rate of the signal recognition process by the signal recognition device. When the recognition parameter Λ is learned so as to minimize this, both the classification process and the reject process are performed. Thus, the recognition performance of the signal recognition processing can be improved. There are many methods for learning the recognition parameter set Λ so as to minimize the expected value of the loss function l (X, Λ). In particular, in the example described here, since the loss function l (X, Λ) can be first-order differentiable with respect to the recognition parameter set Λ, the generalized stochastic descent method, which is a kind of gradient search method with a relatively small processing amount, is used. Can be used. To train the recognition parameter set Λ based on the generalized stochastic descent method, ΔΛ calculated according to the following equation 63 is used.
May be used to update the recognition parameter set Λ.

【０１５０】[0150]

【数６３】ΔΛ＝−ε_tＵ∇Λｌ（Ｘ，Λ）Δ６３ = −ε _t U∇Λl (X, ∇Λ)

【０１５１】ここで、ε_tはｔ回目の更新における更新
量を制御する学習係数（ｔ＝１，２，…，∞）であり、
Ｕは任意の正定値行列であり、∇ΛはΛに関する勾配演
算子であり、認識パラメータΛのベクトル表現が次の数
６４で表されるとき、数６５のごとく表される。なお、
数６３、数６４及び数６５において、∇ΛにおけるΛ及
びλ│Λ│における│Λ│は本来下付きであるが、表示
不可能のためこのように表示する。Here, ε _t is a learning coefficient (t = 1, 2,..., 制 御) for controlling the update amount in the t-th update.
U is an arbitrary positive definite matrix, ∇Λ is a gradient operator with respect to Λ, and when the vector expression of the recognition parameter Λ is expressed by the following equation 64, it is expressed by equation 65. In addition,
In Equations 63, 64 and 65, ∇Λ in ∇Λ and │Λ│ in λ│Λ│ are originally subscripts, but are displayed as such because they cannot be displayed.

【０１５２】[0152]

【数６４】Λ＝［λ_１ λ_２ … λ│Λ│］^T ６４ = [λ ₁ λ ₂ ... Λ│Λ│] ^T

【０１５３】[0153]

【数６５】 ∇Λ＝［∂／(∂λ₁) ∂／(∂λ₂) … ∂／(∂(λ│Λ│))］^Ｔ ６５ = [∂ / (∂λ ₁ ) ∂ / (∂λ ₂ ) ∂ / (∂ (λ│Λ│))] ^T

【０１５４】ただし、λ_n（ｎ＝１，２，…，│Λ│）
はそれぞれ認識パラメータΛに含まれる個々のスカラパ
ラメータであり、｜Λ｜はその総数である。学習係数ε
_tが次の数６６の収束条件を満足するとき、Λは期待値
Ｅ［ｌ（Ｘ，Λ）］が局所的に最小値をとる状態に確率
１で収束することが一般化確率的降下法において証明さ
れている。Where λ _n (n = 1, 2,..., | Λ |)
Are individual scalar parameters included in the recognition parameter Λ, and | Λ | is the total number thereof. Learning coefficient ε
_{When t} satisfies the following convergence condition of Equation 66, Λ converges to a state where the expected value E [l (X, Λ)] locally takes the minimum value with a probability of 1. The generalized stochastic descent method Proven in

【０１５５】[0155]

【数６６】 [Equation 66]

【０１５６】従って、数６３に基づいて認識パラメータ
Λを更新することは、結果として誤認識率を近似的かつ
局所的に最小化することになる。このとき、分類処理パ
ラメータ及びリジェクト処理パラメータは、信号を認識
対象類に分類又は認識不能の報告を行う信号認識課題に
おける認識誤りの最小化という単一の学習基準によって
同時に最適化されるので、それぞれを別々に学習する場
合よりも信号認識処理の性能を向上することができる。Therefore, updating the recognition parameter Λ based on Equation 63 results in an approximate and local minimization of the erroneous recognition rate. At this time, the classification processing parameter and the rejection processing parameter are simultaneously optimized by a single learning criterion of minimizing a recognition error in a signal recognition task of classifying a signal as a recognition target or reporting a non-recognition. Can be improved more than in the case of learning separately.

【０１５７】以下に、学習係数ε_tの例を示す。 ＜学習係数の例１＞正の定数ε₀を用いたときの学習係
数ε_tの例１は次の数６７で表される。[0157] The following are examples of learning coefficient ε _t. <Example 1 of Learning Coefficient> Example 1 of the learning coefficient ε _t when a positive constant ε ₀ is used is expressed by the following _equation 67.

【０１５８】[0158]

【数６７】ε_t＝ε₀／ｔΕ _t = ε ₀ / t

【０１５９】ここで、この学習係数ε_tは数６６を満足
する。Here, the learning coefficient ε _t satisfies Expression 66.

【０１６０】＜学習係数の例２＞正の定数ε₀及びｒを
用いたときの学習係数ε_tの例２は次の数６８で表され
る。<Example 2 of Learning Coefficient> An example 2 of the learning coefficient ε _t when the positive constants ε ₀ and r are used is expressed by the following _equation 68.

【０１６１】[0161]

【数６８】 ε_t＝ε₀（１−ｒｔ），ｔ＜（１／ｒ）のとき ＝０，ｔ≧１／ｒのとき６８ _t = ε ₀ (1-rt), when t <(1 / r) = 0, when t ≧ 1 / r

【０１６２】この学習係数ε_tは数６６を満たさない
が、１に比較して十分に小さいｒを用いれば、学習の効
果は学習係数の例１と同様に期待できる。Although the learning coefficient ε _t does not satisfy Equation 66, the effect of learning can be expected in the same manner as in the first example of the learning coefficient if r is sufficiently smaller than 1.

【０１６３】以下に、正定値行列Ｕの例を示す。 ＜正定値行列の例１＞正定値行列Ｕとして次の数６９で
表される単位行列を用いる。The following is an example of the positive definite matrix U. <Example 1 of positive definite matrix> As the positive definite matrix U, a unit matrix represented by the following equation 69 is used.

【０１６４】[0164]

【数６９】Ｕ＝ｄｉａｇ（１，１，…，１）[Mathematical formula-see original document] U = diag (1, 1,..., 1)

【０１６５】ただし、ｄｉａｇ（・）はカッコ内の成分
を対角成分とする対角行列を表わす。Note that diag (•) represents a diagonal matrix having the components in parentheses as diagonal components.

【０１６６】＜正定値行列の例２＞正定値行列Ｕとして
対角成分がすべて正である次の数７０で表された対角行
列を用いる。なお、数７０及び数７１において、ｕ│Λ
│における│Λ│は本来下付きであるが、表示不可能で
あるためこのように表示する。<Example 2 of Positive Definite Matrix> As the positive definite matrix U, a diagonal matrix represented by the following equation 70 in which all diagonal components are positive is used. In Equations 70 and 71, u│Λ
Although | Λ | in | is originally a subscript, it is displayed like this because it cannot be displayed.

【０１６７】[0167]

【数７０】Ｕ＝ｄｉａｇ（ｕ₁，ｕ₂，…，ｕ│Λ│），
∀_nｕ_n＞０のときU = diag (u ₁ , u ₂ ,..., U│… │),
と き When _n u _n > 0

【０１６８】＜正定値行列の例３＞正定値行列Ｕとして
対角成分がすべて非負である次の数７１で表された対角
行列を用いる。<Example 3 of Positive Definite Matrix> As the positive definite matrix U, a diagonal matrix represented by the following equation 71 in which all diagonal components are nonnegative is used.

【０１６９】[0169]

【数７１】Ｕ＝ｄｉａｇ（ｕ₁，ｕ₂，…，ｕ│Λ│），
∀_nｕ_n≧０のときU = diag (u ₁ , u ₂ ,..., U│ 2│),
∀ When _n u _n ≧ 0

【０１７０】対角成分の一部は０であってもよい。この
とき、行列Ｕは正定値ではないが、ｕ_n＝０とすること
は認識パラメータλ_nが固定し更新しないことを意味し
ているにすぎない。重要でないパラメータに対応する行
列Ｕの対角成分を０と設定した場合、結果として学習に
関与するパラメータの個数を減少させ、学習に要する学
習データと更新回数の節約に貢献する。Some of the diagonal components may be zero. At this time, the matrix U is not a positive definite value, but setting u _n = 0 only means that the recognition parameter λ _n is fixed and is not updated. When the diagonal components of the matrix U corresponding to the unimportant parameters are set to 0, the number of parameters involved in learning is reduced as a result, which contributes to the reduction of learning data required for learning and the number of updates.

【０１７１】＜＜実施例の変形例１＞＞判別関数ｇ
_k（Ｘ，Λ）（ｋ＝０，１，…，Ｋ）の定義における
ξ、η又はζの値、あるいは誤分類測度ｄ（Ｘ，Λ）の
定義におけるパラメータμの値を無限大に設定してもよ
い。この場合、認識パラメータ更新量ΔΛの計算を簡単
化できる。この場合は誤認識率の局所的最小値への収束
は厳密には保証されないが、各々の定数の絶対値が大き
い場合の近似と見なすことができ、実際的には重大な問
題とはならない。<< Modification 1 of Embodiment >> Discriminant Function g
The value of ξ, η, or ξ in the definition of _k (X, Λ) (k = 0, 1,..., K) or the value of the parameter μ in the definition of the misclassification measure d (X, Λ) is set to infinity. May be. In this case, the calculation of the recognition parameter update amount ΔΛ can be simplified. In this case, convergence of the misrecognition rate to the local minimum is not strictly guaranteed, but it can be regarded as an approximation when the absolute value of each constant is large, and does not actually pose a serious problem.

【０１７２】＜＜実施例の変形例２＞＞既知の入力信号
が与えられるたびに認識パラメータΛを更新するのでは
なく、複数の既知の入力信号に対する更新量を加算した
ものによって認識パラメータΛを更新してもよい。例え
ば、Ｓを任意の正の定数とすると、既知の入力信号がＳ
個与えられる毎に次の数７２で表される更新量ΔΛを用
いて認識パラメータΛを更新してもよい。<< Modification 2 of Embodiment >> Instead of updating the recognition parameter Λ every time a known input signal is supplied, the recognition parameter に よ っ て is calculated by adding the update amounts of a plurality of known input signals. May be updated. For example, if S is any positive constant, then the known input signal is S
The recognition parameter Λ may be updated using the update amount ΔΛ expressed by the following equation 72 each time the recognition parameter Λ is given.

【０１７３】[0173]

【数７２】 [Equation 72]

【０１７４】ここで、Ｘ_sはｓ個だけ前に入力された既
知の入力パターンを表す。Here, X _s represents a known input pattern input s times earlier.

【０１７５】以上の実施例において、特徴抽出部１と、
認識処理部２と、認識パラメータ更新部３とは例えばデ
ィジタル計算機によって構成される。In the above embodiment, the feature extracting unit 1
The recognition processing unit 2 and the recognition parameter updating unit 3 are configured by, for example, a digital computer.

【０１７６】以上説明したように、学習モードにおい
て、入力パターンＸが与えられるたびに認識パラメータ
更新部３で上記の数５６による認識パラメータΛの更新
が実行されることにより、分類処理パラメータΛ_Cとリ
ジェクト処理パラメータΛ_Rの両者が同時に学習されて
更新され、結果として本実施例の信号認識装置の正答率
を向上させることができ、従来例に比較して高い正答率
を得ることができる。[0176] As described above, in the learning mode, by updating the recognition parameters lambda by the number 56 is performed by the recognition parameter updating unit 3 each time the input pattern X is given, the classification process parameter lambda _C both reject process parameter lambda _R is updated by learning simultaneously, it is possible to improve the correct rate of the signal recognition device of the present embodiment as a result, it is possible to obtain a high percentage of correct as compared with the conventional example.

【０１７７】[0177]

【発明の効果】以上詳述したように本発明に係る請求項
１記載の信号認識方法によれば、入力された信号を予め
用意された類に分類するための分類処理パラメータと、
認識不能を判断するためのリジェクト処理パラメータと
を記憶装置に記憶するステップと、上記記憶された分類
処理パラメータとリジェクト処理パラメータとを用い
て、入力された信号を予め用意された複数の類のいずれ
かに分類し、又は認識不能と判断して認識結果を出力す
るステップと、入力された信号とその信号の正解認識結
果とに基づいて、分類の誤りとリジェクトの誤りの両者
を近似する単一の損失関数の勾配を用いて、所定の勾配
探索法により上記損失関数が最小化するように、上記記
憶された分類処理パラメータと上記リジェクト処理パラ
メータの両者を学習して更新するステップとを含む。従
って、分類処理パラメータとリジェクト処理パラメータ
の両者が同時に学習されて更新され、結果として本発明
の信号認識方法の正答率を向上させることができ、従来
例に比較して高い正答率を得ることができる。As described above in detail, according to the signal recognition method of the first aspect of the present invention, a classification processing parameter for classifying an input signal into a class prepared in advance,
Storing a rejection processing parameter for determining unrecognition in a storage device, and using the stored classification processing parameter and rejection processing parameter to convert an input signal into any of a plurality of types prepared in advance. Classifying or recognizing an unrecognizable signal and outputting a recognition result; and a single unit that approximates both a classification error and a reject error based on the input signal and the correct recognition result of the signal. Learning and updating both the stored classification processing parameter and the rejection processing parameter such that the loss function is minimized by a predetermined gradient search method using the gradient of the loss function. Therefore, both the classification processing parameter and the rejection processing parameter are simultaneously learned and updated, and as a result, the correct answer rate of the signal recognition method of the present invention can be improved, and a higher correct answer rate can be obtained as compared with the conventional example. it can.

【０１７８】また、本発明に係る請求項２記載の信号認
識装置によれば、入力された信号を予め用意された類に
分類するための分類処理パラメータと、認識不能を判断
するためのリジェクト処理パラメータとを記憶する記憶
手段と、上記分類処理パラメータと上記リジェクト処理
パラメータとを用いて、入力された信号を予め用意され
た複数の類のいずれかに分類し、又は認識不能と判断し
て認識結果を出力する認識手段と、入力された信号とそ
の信号の正解認識結果とに基づいて、分類の誤りとリジ
ェクトの誤りの両者を近似する単一の損失関数の勾配を
用いて、所定の勾配探索法により上記損失関数が最小化
するように、上記記憶された分類処理パラメータと上記
リジェクト処理パラメータの両者を学習して更新する更
新手段とを備える。従って、分類処理パラメータとリジ
ェクト処理パラメータの両者が同時に学習されて更新さ
れ、結果として本発明の信号認識装置の正答率を向上さ
せることができ、従来例に比較して高い正答率を得るこ
とができる。According to the signal recognition device of the second aspect of the present invention, a classification processing parameter for classifying an input signal into a class prepared in advance, and a rejection processing for judging that recognition is impossible. The input signal is classified into one of a plurality of classes prepared in advance using the storage means for storing the parameters and the classification processing parameter and the rejection processing parameter, or is determined to be unrecognizable and recognized. Based on a recognition unit that outputs a result and a single loss function gradient that approximates both a classification error and a rejection error based on an input signal and a correct recognition result of the signal, a predetermined gradient is used. Updating means for learning and updating both the stored classification processing parameters and the rejection processing parameters so that the loss function is minimized by a search method. Therefore, both the classification processing parameter and the rejection processing parameter are learned and updated simultaneously, and as a result, the correct answer rate of the signal recognition device of the present invention can be improved, and a higher correct answer rate can be obtained as compared with the conventional example. it can.

【０１７９】さらに、本発明に係る請求項３記載の信号
認識装置の学習方法によれば、入力された信号を予め用
意された類に分類するための分類処理パラメータと、認
識不能を判断するためのリジェクト処理パラメータとを
用いて、入力された信号を予め用意された複数の類のい
ずれかに分類し、又は認識不能と判断して認識結果を出
力する信号認識装置の学習方法であって、入力された信
号を予め用意された類に分類するための分類処理パラメ
ータと、認識不能を判断するためのリジェクト処理パラ
メータとを記憶装置に記憶するステップと、入力された
信号とその信号の正解認識結果とに基づいて、分類の誤
りとリジェクトの誤りの両者を近似する単一の損失関数
の勾配を用いて、所定の勾配探索法により上記損失関数
が最小化するように、上記記憶された分類処理パラメー
タと上記リジェクト処理パラメータの両者を学習して更
新するステップとを含む。従って、分類処理パラメータ
とリジェクト処理パラメータの両者が同時に学習されて
更新され、結果として本発明の信号認識装置の正答率を
向上させることができ、従来例に比較して高い正答率を
得ることができる。Further, according to the learning method of the signal recognition device of the third aspect of the present invention, a classification processing parameter for classifying an input signal into a class prepared in advance, and a determination of whether or not recognition is impossible. Using a rejection processing parameter of, the input signal is classified into any of a plurality of prepared classes, or a learning method of a signal recognition device that outputs a recognition result by determining that recognition is not possible, Storing, in a storage device, a classification processing parameter for classifying an input signal into a class prepared in advance, and a rejection processing parameter for judging unrecognition; and correct recognition of the input signal and the signal. Based on the result, using a single gradient of the loss function that approximates both the classification error and the reject error, the loss function is minimized by a predetermined gradient search method. , And updating to learn both the classification process parameters the storage and the reject process parameters. Therefore, both the classification processing parameter and the rejection processing parameter are learned and updated simultaneously, and as a result, the correct answer rate of the signal recognition device of the present invention can be improved, and a higher correct answer rate can be obtained as compared with the conventional example. it can.

【０１８０】またさらに、本発明に係る請求項４記載の
信号認識装置の学習装置によれば、入力された信号を予
め用意された類に分類するための分類処理パラメータ
と、認識不能を判断するためのリジェクト処理パラメー
タとを用いて、入力された信号を予め用意された複数の
類のいずれかに分類し、又は認識不能と判断して認識結
果を出力する信号認識装置の学習装置であって、入力さ
れた信号とその信号の正解認識結果とに基づいて、分類
の誤りとリジェクトの誤りの両者を近似する単一の損失
関数の勾配を用いて、所定の勾配探索法により上記損失
関数が最小化するように、上記分類処理パラメータと上
記リジェクト処理パラメータの両者を学習して更新する
更新手段を備える。従って、分類処理パラメータとリジ
ェクト処理パラメータの両者が同時に学習されて更新さ
れ、結果として本発明の信号認識装置の正答率を向上さ
せることができ、従来例に比較して高い正答率を得るこ
とができる。Further, according to the learning apparatus of the signal recognition apparatus of the fourth aspect of the present invention, a classification processing parameter for classifying an input signal into a class prepared in advance and a recognition failure are determined. And a rejection processing parameter for classifying the input signal into one of a plurality of classes prepared in advance, or determining that the signal is unrecognizable and outputting a recognition result. Based on the input signal and the correct recognition result of the signal, using a single loss function gradient that approximates both a classification error and a reject error, the loss function is determined by a predetermined gradient search method. Update means is provided for learning and updating both the classification processing parameters and the reject processing parameters so as to minimize them. Therefore, both the classification processing parameter and the rejection processing parameter are simultaneously learned and updated, and as a result, the correct answer rate of the signal recognition device of the present invention can be improved, and a higher correct answer rate can be obtained as compared with the conventional example. it can.

【図面の簡単な説明】[Brief description of the drawings]

【図１】 本発明に係る一実施例である信号認識装置の
ブロック図である。FIG. 1 is a block diagram of a signal recognition device according to an embodiment of the present invention.

【図２】 図１の認識処理部２のブロック図である。FIG. 2 is a block diagram of a recognition processing unit 2 of FIG.

【図３】 図１の信号認識装置において用いる近似ステ
ップ関数の例１を示すグラフである。FIG. 3 is a graph showing an example 1 of an approximate step function used in the signal recognition device of FIG. 1;

【図４】 図１の信号認識装置において用いる近似ステ
ップ関数の例２を示すグラフである。FIG. 4 is a graph showing an example 2 of an approximate step function used in the signal recognition device of FIG. 1;

【図５】 従来例の信号認識装置のブロック図である。FIG. 5 is a block diagram of a conventional signal recognition device.

【符号の説明】[Explanation of symbols]

１…特徴抽出部、 ２…認識処理部、 ３…認識パラメータ更新部、 ２１…入力信号データメモリ、 ２２…正解認識結果データメモリ、 ２３…認識結果データメモリ、 ３１，３２…モードスイッチ、 ４１…分類処理判別関数計算部、 ４２…リジェクト処理判別関数計算部、 ４３…認識結果決定部、 ５０…認識パラメータ記憶部、 ５１…分類処理パラメータ記憶部、 ５２…リジェクト処理パラメータ記憶部。 DESCRIPTION OF SYMBOLS 1 ... Feature extraction part, 2 ... Recognition processing part, 3 ... Recognition parameter update part, 21 ... Input signal data memory, 22 ... Correct answer recognition result data memory, 23 ... Recognition result data memory, 31, 32 ... Mode switch, 41 ... Classification processing discrimination function calculation unit, 42: Rejection processing discrimination function calculation unit, 43: recognition result determination unit, 50: recognition parameter storage unit, 51: classification processing parameter storage unit, 52: rejection processing parameter storage unit

───────────────────────────────────────────────────── フロントページの続き (72)発明者 片桐 滋 京都府相楽郡精華町大字乾谷小字三平谷 ５番地 株式会社エイ・ティ・アール音 声翻訳通信研究所内 (56)参考文献 特開 平４−155398（ＪＰ，Ａ) (58)調査した分野(Int.Cl.⁶，ＤＢ名) G06T 7/00 G06K 9/68 G10L 3/00 521 G10L 3/00 561 ＪＩＣＳＴファイル（ＪＯＩＳ)────────────────────────────────────────────────── ─── Continuation of the front page (72) Inventor Shigeru Katagiri Kyoto, Soraku-gun, Seika-cho, 5th, Inaniya, 5th, Sanraya, ATR, Inc. Within ATIR Voice Translation and Communication Research Laboratories (56) References JP-A-4- 155398 (JP, A) (58) Fields investigated (Int. Cl. ⁶ , DB name) G06T 7/00 G06K 9/68 G10L 3/00 521 G10L 3/00 561 JICST file (JOIS)

Claims (4)

(57)【特許請求の範囲】(57) [Claims] 【請求項１】 入力された信号を予め用意された類に分
類するための分類処理パラメータと、認識不能を判断す
るためのリジェクト処理パラメータとを記憶装置に記憶
するステップと、 上記記憶された分類処理パラメータとリジェクト処理パ
ラメータとを用いて、入力された信号を予め用意された
複数の類のいずれかに分類し、又は認識不能と判断して
認識結果を出力するステップと、 入力された信号とその信号の正解認識結果とに基づい
て、分類の誤りとリジェクトの誤りの両者を近似する単
一の損失関数の勾配を用いて、所定の勾配探索法により
上記損失関数が最小化するように、上記記憶された分類
処理パラメータと上記リジェクト処理パラメータの両者
を学習して更新するステップとを含むことを特徴とする
信号認識方法。Storing a classification processing parameter for classifying an input signal into a class prepared in advance and a rejection processing parameter for determining recognizability in a storage device; Using the processing parameters and the rejection processing parameters, classifying the input signal into any of a plurality of classes prepared in advance, or determining that recognition is not possible and outputting a recognition result; and Based on the correct recognition result of the signal, using a single loss function gradient that approximates both the classification error and the reject error, so that the loss function is minimized by a predetermined gradient search method, Learning and updating both the stored classification processing parameters and the reject processing parameters. 【請求項２】 入力された信号を予め用意された類に分
類するための分類処理パラメータと、認識不能を判断す
るためのリジェクト処理パラメータとを記憶する記憶手
段と、 上記分類処理パラメータと上記リジェクト処理パラメー
タとを用いて、入力された信号を予め用意された複数の
類のいずれかに分類し、又は認識不能と判断して認識結
果を出力する認識手段と、 入力された信号とその信号の正解認識結果とに基づい
て、分類の誤りとリジェクトの誤りの両者を近似する単
一の損失関数の勾配を用いて、所定の勾配探索法により
上記損失関数が最小化するように、上記記憶された分類
処理パラメータと上記リジェクト処理パラメータの両者
を学習して更新する更新手段とを備えたことを特徴とす
る信号認識装置。2. A storage means for storing a classification processing parameter for classifying an input signal into a class prepared in advance, and a reject processing parameter for judging an unrecognizable signal, the classification processing parameter and the rejection Using the processing parameters, the input signal is classified into one of a plurality of classes prepared in advance, or a recognition unit that outputs a recognition result when it is determined that the input signal cannot be recognized, and a recognition unit that outputs the input signal and the signal. Based on the result of the correct answer recognition, using the gradient of a single loss function that approximates both the classification error and the rejection error, the stored loss function is minimized by a predetermined gradient search method so as to minimize the loss function. An updating means for learning and updating both the classified processing parameters and the reject processing parameters. 【請求項３】 入力された信号を予め用意された類に分
類するための分類処理パラメータと、認識不能を判断す
るためのリジェクト処理パラメータとを用いて、入力さ
れた信号を予め用意された複数の類のいずれかに分類
し、又は認識不能と判断して認識結果を出力する信号認
識装置の学習方法であって、 入力された信号を予め用意された類に分類するための分
類処理パラメータと、認識不能を判断するためのリジェ
クト処理パラメータとを記憶装置に記憶するステップ
と、 入力された信号とその信号の正解認識結果とに基づい
て、分類の誤りとリジェクトの誤りの両者を近似する単
一の損失関数の勾配を用いて、所定の勾配探索法により
上記損失関数が最小化するように、上記記憶された分類
処理パラメータと上記リジェクト処理パラメータの両者
を学習して更新するステップとを含むことを特徴とする
信号認識装置の学習方法。3. A method according to claim 1, wherein the input signal is classified into a plurality of types by using a classification processing parameter for classifying the input signal into a class prepared in advance and a rejection processing parameter for determining recognizability. A classification processing parameter for classifying an input signal into a class prepared in advance, and a classification method for classifying an input signal into a class prepared in advance. Storing a rejection processing parameter for determining unrecognition in a storage device; and simply approximating both a classification error and a rejection error based on an input signal and a correct recognition result of the signal. Using the gradient of one loss function, the stored classification processing parameter and the reject processing parameter are set so that the loss function is minimized by a predetermined gradient search method. Learning method of signal recognition apparatus characterized by comprising the step of updating to learn them. 【請求項４】 入力された信号を予め用意された類に分
類するための分類処理パラメータと、認識不能を判断す
るためのリジェクト処理パラメータとを用いて、入力さ
れた信号を予め用意された複数の類のいずれかに分類
し、又は認識不能と判断して認識結果を出力する信号認
識装置の学習装置であって、 入力された信号とその信号の正解認識結果とに基づい
て、分類の誤りとリジェクトの誤りの両者を近似する単
一の損失関数の勾配を用いて、所定の勾配探索法により
上記損失関数が最小化するように、上記分類処理パラメ
ータと上記リジェクト処理パラメータの両者を学習して
更新する更新手段を備えたことを特徴とする信号認識装
置の学習装置。4. Using a classification processing parameter for classifying an input signal into a class prepared in advance and a rejection processing parameter for determining recognizability, a plurality of input signals are prepared in advance. A learning device for a signal recognition device that classifies into any of the classes or outputs a recognition result when it is determined that recognition is not possible, based on an input signal and a correct recognition result of the signal, a classification error is generated. Using the gradient of a single loss function that approximates both the rejection error and the rejection error, learn both the classification processing parameter and the rejection processing parameter so that the loss function is minimized by a predetermined gradient search method. A learning device for a signal recognition device, comprising: an updating unit that updates the data.