JP2019075003A - Approximate calculation device, approximate calculation method, and program - Google Patents

Abstract

To replace exponentiation calculations with relatively simple calculations.SOLUTION: An approximate calculation device includes an exponent separation unit configured to separate the exponent of a real power of 2 into an integral part and a decimal part or 0 or more and less than 1, a decimal part calculation unit configured to calculate, by linear approximation, a power of 2 on the decimal part, and a multiplication unit configured to multiply the calculation result of the power of 2 on the integral part with the calculation result of the power of 2 on the decimal part obtained by the decimal part calculation unit.SELECTED DRAWING: Figure 1

Description

本発明は、近似計算装置、近似計算方法及びプログラム、特に混合ガウスモデルを用いたベイズ識別に好適な近似計算装置、近似計算方法及びプログラムに関する。   The present invention relates to an approximate calculation apparatus, an approximate calculation method, and a program, and more particularly to an approximate calculation apparatus, an approximate calculation method, and a program suitable for Bayesian discrimination using a mixed Gaussian model.

筋電義手やブレインマシンインターフェース等において生体信号のパターン識別が用いられるが、これには混合ガウスモデル（Gaussian Mixture Model；ＧＭＭ）に基づくベイズ識別が有効であることが知られているが、ＧＭＭの演算をリアルタイムで処理しようとすると実装コストが膨大となるという問題がある。   Pattern identification of biosignals is used in EMG hands and brain machine interfaces etc. For this purpose, it is known that Bayesian discrimination based on Gaussian mixture model (GMM) is effective. There is a problem that the implementation cost becomes huge when trying to process an operation in real time.

一方、リアルタイム処理においてべき乗の計算を行う場合がある。
例えば、特許文献１には、混合ガウスモデルを適用したニューラルネットワークに生体信号を入力し、電動義手を操作することが記載されている。混合ガウスモデルで事後確率の計算を行う際、指数関数を含む計算を行う。 On the other hand, power may be calculated in real time processing.
For example, Patent Document 1 describes that a biological signal is input to a neural network to which a mixed Gaussian model is applied to operate a motorized artificial hand. When calculating a posteriori probability with a mixed Gaussian model, calculate including an exponential function.

特許第３８１６７６２号公報Patent No. 3816762 gazette

リアルタイム処理においてべき乗の計算を行う場合、べき乗の計算を高速に行う必要がある。べき乗の計算を比較的簡単な計算に置き換えることができれば、計算の高速化を図ることができ、また、比較的容易に計算のハードウェア実装を行える。   When performing the calculation of exponentiation in real time processing, it is necessary to calculate the exponentiation fast. If the calculation of the exponentiation can be replaced by a relatively simple calculation, the calculation can be accelerated, and the hardware implementation of the calculation can be performed relatively easily.

本発明は、べき乗の計算を比較的簡単な計算に置き換えることができる近似計算装置、近似計算方法およびプログラムを提供する。   The present invention provides an approximate calculation device, an approximate calculation method, and a program that can replace the calculation of powers with relatively simple calculations.

本発明の第１の態様によれば、近似計算装置は、２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離部と、前記小数部分について２のべき乗を直線近似で計算する小数部分計算部と、前記整数部分についての２のべき乗の計算結果と、前記小数部分計算部による前記小数部分についての２のべき乗の計算結果とを乗算する乗算部と、を備える。   According to a first aspect of the present invention, an approximate calculator separates an exponent of a real power of 2 into an integral part and a fractional part between 0 and 1 and a power of 2 for the fractional part. A fractional part calculation unit for calculating by linear approximation, and a multiplication unit for multiplying the calculation result of power of 2 for the integer part and the calculation result of power of 2 for the fraction part by the fractional part calculation unit Prepare.

前記整数部分について２のべき乗をシフト演算で計算する整数部分計算部を備えるようにしてもよい。   The integer part calculator may be provided to calculate the power of 2 for the integer part by a shift operation.

前記小数部分計算部は、前記０以上１未満の区間を分割した区間毎の直線近似にて前記小数部分についての２のべき乗を計算するようにしてもよい。   The fractional part calculation unit may calculate a power of 2 with respect to the fractional part by linear approximation for each section obtained by dividing the section between 0 and 1 inclusive.

前記小数部分計算部は、前記０以上１未満の区間を分割した区間における２のべき乗の両端を結んだ線分にて前記直線近似を行うようにしてもよい。   The fractional part calculation unit may perform the linear approximation with a line segment connecting both ends of the power of 2 in a section obtained by dividing the section between 0 and 1 inclusive.

ネイピア数の実数乗を２の実数乗に換算する底変換部を備えるようにしてもよい。   A bottom conversion unit may be provided to convert the Napier's number to the real power of 2.

前記底変換部は、混合ガウスモデルに基づくベイズ識別におけるネイピア数の実数乗を２の実数乗に換算するようにしてもよい。   The base conversion unit may convert the power of Napier's number to a real power of 2 in Bayesian discrimination based on a mixed Gaussian model.

本発明の第２の態様によれば、近似計算方法は、２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離ステップと、前記小数部分について２のべき乗を直線近似で計算する小数部分計算ステップと、前記整数部分についての２のべき乗の計算結果と、前記小数部分計算ステップでの前記小数部分についての２のべき乗の計算結果とを乗算する乗算ステップと、を含む。   According to a second aspect of the present invention, the approximation calculation method comprises an exponent separation step of separating an exponent of real power of 2 into an integral part and a fractional part of 0 or more and 1 and a power of 2 for the fractional part. A multiplication step of multiplying a fractional part calculation step calculated by linear approximation, a multiplication result of power of 2 for the integer part, and a calculation result of power of 2 for the fraction part in the fractional part calculation step; including.

本発明の第３の態様によれば、プログラムは、プログラミング可能な装置に２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離ステップと、前記小数部分について２のべき乗を直線近似で計算する小数部分計算ステップと、前記整数部分についての２のべき乗の計算結果と、前記小数部分計算ステップでの前記小数部分についての２のべき乗の計算結果とを乗算する乗算ステップと、を実行させるためのプログラムである。   According to a third aspect of the present invention, a program comprises an exponential separation step of separating into a programmable device an exponent of a real power of two into an integral part and a fractional part between 0 and 1 and 2 for the fractional part. Multiplication of the fractional part calculation step of calculating the power of the linear approximation, multiplication of the calculation result of the power of 2 for the integer part, and the calculation result of the power of 2 for the fraction part in the fractional part calculation step And a program for executing the steps.

本発明によれば、べき乗の計算を比較的簡単な計算に置き換えることができる。   According to the present invention, the calculation of the power can be replaced by a relatively simple calculation.

本発明の実施形態に係る近似計算装置の機能構成を示す概略ブロック図である。It is a schematic block diagram showing functional composition of an approximation calculation device concerning an embodiment of the present invention. 同実施形態における２^βの近似の例を示す図である。It is a figure showing an example of approximation of 2 ^{beta in} the embodiment. 同実施形態の近似ＧＭＭに基づく確率ニューラルネットワークの構成例を示す図である。It is a figure which shows the structural example of the stochastic neural network based on the approximate GMM of the embodiment. 同実施形態に係る近似関数ｇ_１（ｚ）を用いた場合の、指数関数の近似誤差率を示す図である。In the case of using an approximate function g ₁ according to the embodiment _(z), it is a diagram showing an approximation error rate of the exponential function. 同実施形態に係る近似関数ｇ’_１（ｚ）を用いた場合の、指数関数の近似誤差率を示す図である。In the case of using an approximate function g _{'1 (z)} according to the embodiment and showing the approximate error rate of the exponential function. 同実施形態に係る近似関数ｇ_１（ｚ）、ｇ’_１（ｚ）それぞれの近似誤差率を示す図である。Approximation function g ₁ according to the embodiment _(z), is a diagram illustrating a g _{'1 (z)} each approximation error rate. 同実施形態に係る近似関数ｇ’_１（ｚ）による指数関数の近似の例を示す図である。It is a diagram illustrating an example of the approximation of the exponential function according to the approximation function g _{'1 (z)} according to the embodiment. 同実施形態に係る近似関数ｇ_２（ｚ）を用いた場合の、対数関数の近似誤差率を示す図である。In the case of using an approximate function g _{2 (z)} according to the embodiment and showing the approximate error ratio of the logarithmic function. 同実施形態に係る近似関数ｇ_２（（３）Ｏｃ）による対数関数の近似の例を示す図である。Is a diagram illustrating an example of the approximation of a logarithmic function according to the approximation function g _{2 ((3)} Oc) according to the embodiment.

以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図１は、本発明の実施形態に係る近似計算装置の機能構成を示す概略ブロック図である。図１に示すように、近似計算装置１０は、底変換部１１と、指数分離部１２と、整数部分計算部１３と、小数部分計算部１４と、乗算部１５とを備える。 Hereinafter, embodiments of the present invention will be described, but the following embodiments do not limit the invention according to the claims. Moreover, not all combinations of features described in the embodiments are essential to the solution of the invention.
FIG. 1 is a schematic block diagram showing a functional configuration of the approximate calculation device according to the embodiment of the present invention. As shown in FIG. 1, the approximate calculation device 10 includes a base conversion unit 11, an exponent separation unit 12, an integer partial calculation unit 13, a fractional partial calculation unit 14, and a multiplication unit 15.

近似計算装置１０は、べき乗の近似計算を行う。
底変換部１１は、ネイピア数（ｅ＝２．７１８２８・・・）の実数乗を２の実数乗に換算する。例えば、底変換部１１は、混合ガウスモデル（Gaussian Mixture Model；ＧＭＭ）に基づくベイズ識別におけるネイピア数の実数乗を２の実数乗に換算する。
但し、近似計算装置１０が近似計算を行うべき乗は、底がネイピア数のものに限定されない。例えば、近似計算装置１０が、底が１０のべき乗の入力を受け、底変換部１１が、底が１０のべき乗を底が２のべき乗に換算するようにしてもよい。あるいは、近似計算装置１０が、底が元々２であるべき乗の入力を受けて近似計算を行うようにしてもよい。 The approximate calculation device 10 performs approximate calculation of powers.
The base conversion unit 11 converts the Napier's number (e = 2.71828...) To the real power of two. For example, the base conversion unit 11 converts the Napier's number to the real power of 2 in the Bayesian discrimination based on the Gaussian mixture model (GMM).
However, the power to which the approximate calculation device 10 performs approximate calculation is not limited to the base whose number is the number of Napiers. For example, the approximate calculation device 10 may receive an input of a base of 10 power, and the base conversion unit 11 may convert the base of 10 power to a base 2 power. Alternatively, the approximate calculation device 10 may perform an approximate calculation by receiving an input of a power which is originally 2 at the base.

指数分離部１２は、２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する。
整数部分計算部１３は、指数の整数部分について２のべき乗をシフト演算（ビットシフト）で計算する。
小数部分計算部１４は、指数の小数部分について２のべき乗を直線近似で計算する。
小数部分計算部１４が、０以上１未満の区間を分割した区間毎の直線近似にて、指数の小数部分についての２のべき乗を計算するようにしてもよい。さらには、小数部分計算部１４が、０以上１未満の区間を分割した区間における２のべき乗の両端を結んだ線分にて直線近似を行うようにしてもよい。 The exponent separating unit 12 separates the exponent of the real power of 2 into an integer part and a decimal part of 0 or more and 1 or less.
The integer part calculation unit 13 calculates the power of 2 for the integer part of the exponent by a shift operation (bit shift).
The fractional part calculation unit 14 calculates the power of 2 for the fractional part of the exponent by linear approximation.
The fractional part calculation unit 14 may calculate the power of 2 with respect to the fractional part of the exponent by linear approximation for each of the sections obtained by dividing the section between 0 and 1 inclusive. Furthermore, the fractional part calculation unit 14 may perform linear approximation with a line segment connecting both ends of the power of 2 in a section obtained by dividing the section between 0 and 1 inclusive.

乗算部１５は、整数部分計算部１３による指数の整数部分についての２のべき乗の計算結果と、小数部分計算部１４による小数部分についての２のべき乗の計算結果とを乗算する。
これにより、近似計算装置１０は、べき乗の計算を四則演算およびシフト演算といった比較的簡単な計算に置き換えることができる。
近似計算装置１０が行うべき乗の近似計算について、式を参照して説明する。 The multiplication unit 15 multiplies the calculation result of the power of 2 for the integer part of the exponent by the integer part calculation unit 13 and the calculation result of the power of 2 for the decimal part by the fractional part calculation unit 14.
Thereby, the approximate calculation device 10 can replace the calculation of powers with relatively simple calculations such as arithmetic operations and shift operations.
The approximate calculation of powers performed by the approximate calculation device 10 will be described with reference to equations.

混合ガウスモデルにおいて、特徴ベクトルｘをＤ次元の実数ベクトルとすると、特徴ベクトルｘの生起確率密度関数ｆ（ｘ）は、式（１）のように示される。   In the mixed Gaussian model, assuming that the feature vector x is a D-dimensional real vector, the occurrence probability density function f (x) of the feature vector x is expressed by equation (1).

ここで、ｃ（ｃは、１≦ｃ≦Ｃの正整数）は、各クラスを識別する識別番号であり、Ｃはクラス数を示す。ｍ（ｍは、１≦ｍ≦Ｍ_ｃの正整数）は、クラスｃを構成するコンポーネントを識別する識別番号であり、Ｍ_ｃは、クラスｃを構成するコンポーネントの数を示す。混合ガウスモデルでは、正規分布（ガウス分布）の重ね合わせによってクラスが構成されており、ここでいうコンポーネントは、クラスを構成する正規分布である。
また、μ_ｃ，ｍ、Σ_ｃ，ｍ、γ_ｃ，ｍ（０≦γ_ｃ，ｍ≦１）は、それぞれ、クラスｃのコンポーネントｍの平均ベクトル、分散共分散行列、他のコンポーネントとの混合比を示す。全てのクラスｃの全てのコンポーネントｍの混合比γ_ｃ，ｍの合計は１、すなわち、式（２）を満たすものとする。 Here, c (c is a positive integer of 1 ≦ c ≦ C) is an identification number for identifying each class, and C indicates the number of classes. m (m is a positive integer of 1 ≦ m ≦ M _c ) is an identification number for identifying a component that constitutes class c, and M _c indicates the number of components that constitute class c. In the mixed Gaussian model, a class is configured by superposition of normal distributions (Gaussian distributions), and the components referred to here are normal distributions that constitute the class.
Also, μ _{c, m} , _{c c, m} , γ _{c, m} (0 ≦ γ _{c, m} ≦ 1) are respectively the average vector of the component m of class c, the variance-covariance matrix, and the mixture with other components Indicates the ratio. The sum of the mixing ratios γ _{c, m} of all components m of all classes c is assumed to be 1, ie, to satisfy the equation (2).

また、正規分布Ｍ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）は、式（３）のように示される。 Also, the normal distribution M (x; μ _{c, m} , _{c c, m} ) is expressed as in equation (3).

ここで、指数関数ｅｘｐは、ネイピア数ｅのべき乗を示す。Ｄは、上記のように特徴ベクトルの次元数を示す。
指数ｚ_ｃ，ｍは、式（４）のように示される。 Here, the exponential function exp indicates the power of the Napier number e. D indicates the number of dimensions of the feature vector as described above.
The exponent z _{c, m} is given by equation (4).

ここでは、上付きの「Ｔ」は、行列またはベクトルの転置を示す。上付きの「−１」は逆行列を示す。
特徴ベクトルｘをクラスに分類する際の、クラスｃのコンポーネントｍに対する事後確率は式（５）のように示される。 Here, the superscript "T" indicates transpose of a matrix or a vector. The superscript “−1” indicates the inverse matrix.
The posterior probability with respect to the component m of the class c when classifying the feature vector x into classes is expressed as equation (5).

正規分布を指数関数を用いて表記すると、式（５）は式（６）のように示される。   Expressing the normal distribution using an exponential function, equation (5) is expressed as equation (6).

式（６）における指数関数ｅｘｐの定義域は［−∞，０］と広く、これら指数関数の演算に時間を要することが考えられる。
そこで、指数関数を高速かつ高精度に演算できる近似式を構築する。特に、ハードウェア実装を考慮して近似式を構築する。
まず、指数関数ｅｘｐを２のべき乗で表現すると式（７）のように示される。 The domain of the exponential function exp in Equation (6) is as wide as [−∞, 0], and it is considered that it takes time to calculate these exponential functions.
Therefore, we construct an approximate expression that can calculate the exponential function at high speed and with high accuracy. In particular, the approximation formula is constructed in consideration of the hardware implementation.
First, when the exponential function exp is expressed by a power of 2, it is expressed as Expression (7).

ここで、ｋは式８のように示される定数である。   Here, k is a constant shown as equation 8.

式（７）を用いた指数関数ｅｘｐから２のべき乗への換算は、底変換部１１が行う処理の例に該当する。
式（７）のｚｋを整数部分と小数部分とに分けると、式（９）のように示される。 The conversion from the exponential function exp to the power of 2 using the equation (7) corresponds to an example of processing performed by the base conversion unit 11.
If zk of equation (7) is divided into the integer part and the decimal part, it is represented as equation (9).

ここで、αはｚｋの整数部分であり、式（１０）のように示される。   Here, α is an integer part of z k and is expressed as equation (10).

関数ｆｌｏｏｒは、整数への切り捨てを示す。具体的には関数ｆｌｏｏｒは、引数を超えない最大の整数を示す。
式（９）のβはｚｋの小数部分であり、式（１１）のように示される。 The function floor indicates truncation to an integer. Specifically, the function floor indicates the largest integer that does not exceed the argument.
Β in equation (9) is a fractional part of z k and is expressed as equation (11).

βの定義域は［０，１）、すなわち０≦β＜１である。指数ｚｋを整数部分αと小数部分βとに分離する処理は、指数分離部１２の処理の例に該当する。
ここで、βの定義域を等間隔にｎ分割して、区間毎に２^βをテイラー展開に基づいて線形近似する。２次以上の項を無視できると仮定すると、ｔの周りにおける２^βのテイラー展開は、式（１２）のように示される。 The domain of β is [0, 1), that is, 0 ≦ β <1. The process of separating the exponent zk into the integral part α and the decimal part β corresponds to an example of the process of the exponent separation unit 12.
Here, the domain of β is divided into n at equal intervals, and 2 ^β is linearly approximated based on the Taylor expansion for each section. Assuming that the second and higher order terms can be ignored, the Taylor expansion of 2 ^β around t is expressed as equation (12).

また、βの定義域［０，１）を等間隔にｎ分割した各区間は、式（１３）のように示される。   Further, each section obtained by dividing the domain [0, 1) of β into n at equal intervals is expressed by equation (13).

すなわち、（ｌ−１）／ｎ≦β＜ｌ／ｎであり、ｌは、１≦ｌ≦ｎの正整数である。
各区間の中間点をt_n,lとすると、式（１４）のように示される。 That is, (l−1) / n ≦ β <l / n, and l is a positive integer of 1 ≦ l ≦ n.
Assuming that the middle point of each section is t _{n, l} , it is expressed as Expression (14).

中間点t_n,lの周りにおける２^βのテイラー展開は、式（１５）のように示される。 The Taylor expansion of 2 ^β around the midpoint t _{n, l} is shown as equation (15).

式（１５）は、式（１６）のように示すことができる。   Equation (15) can be expressed as equation (16).

ここで、ａ_ｎ，ｌは、式（１７）のように示される。 Here, a _{n, l} is expressed as in equation (17).

また、ｂ_ｎ，ｌは、式（１８）のように示される。式（１６）はβの一次関数であり、βを直線近似する。 Also, b _{n, l} is expressed as in equation (18). Equation (16) is a linear function of β, which linearly approximates β.

式（１６）による２^βの近似を用いて、ｅｘｐ（ｚ）を式（１９）のように近似できる。 Exp (z) can be approximated as equation (19) using the approximation of 2 ^β according to equation (16).

さらに、係数ａ_ｎ，ｌおよびｂ_ｎ，ｌを簡単化する。
式（１７）に式（１４）を代入すると、係数ａ_ｎ，ｌは式（２０）のように示される。 Furthermore, the coefficients a _{n, l} and b _{n, l} are simplified.
Substituting equation (14) into equation (17), coefficients a _{n, l} are expressed as equation (20).

また、式（１８）に式（１４）を代入すると、係数ｂ_ｎ，ｌは式（２１）のように示される。 Further, when equation (14) is substituted into equation (18), the coefficient b _{n, l} is expressed as equation (21).

式（２０）および式（２１）の「（２ｌ−１）／２ｎ」（＝ｔ_ｎ，ｌ）、および、２の自然対数「ｌｎ２」を近似式で置き換える。
ｎの値を大きくしていくと、（２ｌ−１）／２ｎは、１／ｎに収束する。これは、式（２２）のように示される。 The equation (20) and equation (21) “(2 1 −1) / 2 n” (= t _{n, 1} ) and the natural logarithm “2” 2 “ln 2” are replaced by approximate equations.
As the value of n is increased, (21-1) / 2n converges to 1 / n. This is shown as equation (22).

また、ｎの値を大きくしていくと、（１−２^−１／ｎ）ｎは、ｌｎ２に収束する。これは式（２３）のように示される。 Also, as the value of n is increased, (1-2-1 ^{/ n} ) n converges to ln2. This is shown as equation (23).

式（２２）に基づき、係数ａ_ｎ，ｌおよびｂ_ｎ，ｌの（２ｌ−１）／２ｎを１／ｎに置き換える。また、式（２３）に基づき、係数ａ_ｎ，ｌおよびｂ_ｎ，ｌのｌｎ２を（１−２^−１／ｎ）ｎに置き換える。
係数ａ_ｎ，ｌから置き換え後の係数ａ’_ｎ，ｌは、式（２４）のように示される。 Based on equation (22), replace (21-1) / 2n of the coefficients a _{n, l} and b _{n, l} with 1 / n. Also, based on equation (23), ln2 of the coefficients an _{, l} and bn _{, l} is replaced with (1-2-1 ^{/ n} ) n.
Coefficients _{a n,} coefficients after the replacement from the _l a _{'n, l} is expressed by the equation (24).

係数ｂ_ｎ，ｌから置き換え後の係数ｂ’_ｎ，ｌは、式（２５）のように示される。 Coefficients _{b n,} coefficients after the replacement from _l b _{'n, l} is expressed by the equation (25).

式（１６）の係数ａ_ｎ，ｌおよびｂ_ｎ，ｌを係数ａ’_ｎ，ｌおよびｂ’_ｎ，ｌで置き換えて、２^βの近似は式（２６）のように示される。 _Substituting coefficients a _{n, l} and b _{n, l} of equation (16) with coefficients a ' _{n, l} and b' _{n, l} , an approximation of 2 ^β is shown as equation (26).

式（２６）は、２^βの示す曲線をｎ分割した各区間の曲線を、両端を結んだ直線で近似している。
図２は、式（２６）による２^βの近似の例を示す図である。図２は、２^βの定義域を２分割する場合の例を示している。図２のグラフの横軸はβの値を示し、縦軸は２^βの値を示す。 Expression (26) approximates the curve of each section obtained by dividing the curve represented by 2 ^β by n, by a straight line connecting both ends.
FIG. 2 is a diagram showing an example of approximation of 2 ^β by equation (26). FIG. 2 shows an example in which the domain of 2 ^β is divided into two. The horizontal axis of the graph of FIG. 2 shows the value of β, and the vertical axis shows the value of 2 ^β .

線Ｌ１１は、２^βを示す。点Ｐ１１、Ｐ１２、Ｐ１３は、それぞれ、βの定義域を分割した区間の端部と線Ｌ１１との交点を示す。点Ｐ１１は、β＝０の直線と線Ｌ１１との交点を示す。点Ｐ１２は、β＝０．５の直線と線Ｌ１１との交点を示す。点Ｐ１３は、β＝１の直線と線Ｌ１１との交点を示す。
線Ｌ１２ａ、線Ｌ１２ｂは、それぞれβの区間［０，０．５）、［０．５，１）にて線Ｌ１１を近似する。線Ｌ１２ａは、点Ｐ１１と点Ｐ１２とを結んだ直線（線分）である。線Ｌ１２ｂは、点Ｐ１２と点Ｐ１３とを結んだ直線（線分）である。
このように、式（２６）によれば、直感的に把握しやすい態様でβ^２を近似することができる。 The line L11 shows 2 ^β . Points P11, P12, and P13 indicate points of intersection of the end of the section obtained by dividing the definition area of β and the line L11. A point P11 indicates an intersection point of the straight line of β = 0 and the line L11. A point P12 indicates an intersection point of the straight line of β = 0.5 and the line L11. A point P13 indicates an intersection point of the β = 1 straight line and the line L11.
The line L12a and the line L12b approximate the line L11 in the sections [0, 0.5) and [0.5, 1) of β, respectively. The line L12a is a straight line (line segment) connecting the point P11 and the point P12. The line L12 b is a straight line (line segment) connecting the point P12 and the point P13.
Thus, according to equation (26), β ² can be approximated in a manner that is intuitively easy to grasp.

式（２６）による近似を指数関数ｅｘｐの近似に適用する。具体的には、式（１９）の係数ａ_ｎ，ｌおよびｂ_ｎ，ｌを係数ａ’_ｎ，ｌおよびｂ’_ｎ，ｌで置き換えて、指数関数ｅｘｐの近似は式（２７）のように示される。 The approximation by equation (26) is applied to the approximation of the exponential function exp. Specifically, the coefficients a _{n, l} and b _{n, l} in the equation (19) are replaced by the coefficients a ' _{n, l} and b' _{n, l} and the approximation of the exponential function exp is given by the equation (27) Indicated.

式（２７）における２^αは、二進数表現におけるシフト演算（ビットシフト）で演算できる。また、ａ’_ｎ，ｌβ＋ｂ’_ｎ，ｌは、βの一次関数である。このように、式（２７）によれば、指数関数ｅｘｐをシフト演算と線形方程式で近似することができる。簡単な処理で演算を行える点で、式（２７）によれば、指数関数ｅｘｐの演算を高速化することができる。特に式（２７）は、シフト演算を用いる点、および、一次関数といった簡単な関数を用いる点でハードウェア実装が容易である。式（２７）をハードウェア実装することで、指数関数ｅｘｐの演算を高速化することができる。
式（２７）の「２^α」の計算は、整数部分計算部１３の処理の例に該当する。式（２７）の「ａ’_ｎ，ｌβ＋ｂ_ｎ，ｌ」の計算は、小数部分計算部１４の処理の例に該当する。これらの計算結果の乗算は、乗算部１５の処理の例に該当する。 The 2 ^alpha in the formula (27) can be calculated by a shift operation in binary representation (bit shift). Further, a ′ _{n, l} β + b ′ _{n, l} is a linear function of β. Thus, according to equation (27), the exponential function exp can be approximated by a shift operation and a linear equation. According to equation (27), the calculation of the exponential function exp can be sped up because the calculation can be performed by a simple process. In particular, equation (27) is easy to implement in hardware in that it uses a shift operation and a simple function such as a linear function. By implementing Equation (27) in hardware, it is possible to speed up the operation of the exponential function exp.
The calculation of “2 ^α ” in Expression (27) corresponds to an example of the processing of the integer part calculation unit 13. The calculation of “a ′ _{n, l} β + b _{n, l} ” in Expression (27) corresponds to an example of the process of the fractional part calculation unit 14. The multiplication of these calculation results corresponds to an example of the processing of the multiplication unit 15.

次に、指数関数ｅｘｐの近似を混合ガウスモデルに適用する。
正規分布を示す式（３）に式（２７）の近似を導入して、正規分布は式（２８）のように近似される。 Next, an approximation of the exponential function exp is applied to the mixed Gaussian model.
Introducing the approximation of equation (27) into equation (3) indicating a normal distribution, the normal distribution is approximated as equation (28).

ここで、Ａ_ｎは実数定数であり、式（２９）のように示される。 Here, _An is a real constant, and is expressed as in equation (29).

式（２８）に示す正規分布の近似Ｍ_ａｐｐ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）を近似ガウス分布（または近似正規分布）と称する。
近似ガウス分布Ｍ_ａｐｐ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）について、式（３０）が成り立つ。 The approximation M _app (x; μ _{c, m} , _{c c, m} ) of the normal distribution shown in equation (28) is referred to as an approximate Gaussian distribution (or an approximate normal distribution).
Equation (30) holds for the approximate Gaussian distribution M _app (x; μ _{c, m} , Σ _{c, m} ).

また、近似ガウス分布Ｍ_ａｐｐ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）について、式（３１）が成り立つ。 In addition, equation (31) holds for the approximate Gaussian distribution M _app (x; μ _{c, m} , _{c c, m} ).

式（３０）および式（３１）より、近似ガウス分布Ｍ_ａｐｐ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）は確率密度関数である。
近似ガウス分布Ｍ_ａｐｐ（ｘ；μ_ｃ，ｍ，Σ_ｃ，ｍ）を式（１）に適用すると式（３２）のようになる。 From Equation (30) and Equation (31), the approximate Gaussian distribution M _app (x; μ _{c, m} , _{c c, m} ) is a probability density function.
If the approximate Gaussian distribution M _app (x; μ _{c, m} , _{c c, m} ) is applied to the equation (1), the equation (32) is obtained.

ｆ_ａｐｐ（ｘ）は、混合ガウスモデルの生起確率密度関数ｆ（ｘ）を模擬する。ｆ_ａｐｐ（ｘ）を用いての混合ガウスモデルの模擬を、近似混合ガウスモデル（近似ＧＭＭ）と称する。
式（２６）の近似を式（５）に適用して、近似ＧＭＭに基づいたベイズ推定におけるクラスｃのコンポーネントｍに対する事後確率ｐ_ａｐｐ（ｃ，ｍ｜ｘ）は、式（３３）のように示される。 f _app (x) simulates the occurrence probability density function f (x) of the mixed Gaussian model. The simulation of the Gaussian mixture model using f _app (x) is called an approximate Gaussian mixture model (approximate GMM).
Applying the approximation of equation (26) to equation (5), the posterior probability p _app (c, m | x) for component m of class c in the Bayesian estimation based on approximate GMM is given by equation (33) Indicated.

α、βのいずれもクラスｃおよびコンポーネントｍ毎に値をとるため、添え字ｃおよびｍ、あるいは、ｃ’およびｍ’を付している。
このように、近似ＧＭＭによれば、指数関数を用いずにＧＭＭに基づくベイズ推定を近似可能であり、この点で演算を高速化することができる。 Since both α and β take values for each class c and component m, subscripts c and m or c ′ and m ′ are added.
Thus, according to the approximate GMM, the BMM estimation based on the GMM can be approximated without using an exponential function, and the calculation can be speeded up at this point.

次に、近似ＧＭＭのニューラルネットワークへの適用について説明する。以下、近似ＧＭＭを適用したニューラルネットワークを、近似ＧＭＭに基づく確率ニューラルネットワークと称する。
式（５）を、平均ベクトルμ_ｃ，ｍおよび共分散逆行列Σ_ｃ，ｍ ^−１を用いて展開すると、式（３４）のように、新たな入力ベクトルＸと、η^{（ｃ，ｍ）}とを用いて指数関数の引数を見かけ上線形化できる。 Next, the application of the approximate GMM to a neural network will be described. The neural network to which the approximate GMM is applied is hereinafter referred to as a probabilistic neural network based on the approximate GMM.
When the equation (5) is expanded using the mean vector μ _{c, m} and the covariance inverse matrix _{c c, m} ⁻¹ , the new input vector X and η ^{(c, m)} are obtained as the equation (34 ⁾ And can be used to apparently linearize the argument of the exponential function.

ここで、新たな入力ベクトルＸは、式（３５）のように示される。   Here, the new input vector X is expressed as Expression (35).

すなわち、新たな入力ベクトルＸは、元の入力ベクトルｘの要素ｘ_１，・・・，ｘ_Ｄのうち２つ以下の要素の積を要素としている。
また、η^{（ｃ，ｍ）}は、式（３６）のように示される。 That is, the new input vector X has as an element the product of two or less of the elements x ₁ ,..., X _D of the original input vector x.
Also, η ^{(c, m)} is expressed as shown in equation (36).

ここで、ｓ_ｉ，ｊ ^{（ｃ，ｍ）}は、共分散逆行列Σ_ｃ，ｍ ^−１の要素であり、式（３７）のように示される。 Here, s _{i, j} ^{(c, m)} is an element of the covariance inverse matrix _{c c, m} ⁻¹ , and is expressed as in equation (37).

また、η_０ ^{（ｃ，ｍ）}は、式（３８）のように示される。 Further, η ₀ ^{(c, m)} is expressed as in equation (38).

δ_ｉｊはクロネッカーのデルタ（Kronecker Delta）であり、式（３９）のように示される。 δ _ij is a Kronecker Delta, which is represented by equation (39).

式（３４）に式（２４）、式（２５）および式（２７）を適用すると、式（４０）のように示される。   If Formula (24), Formula (25), and Formula (27) are applied to Formula (34), it will be shown like Formula (40).

式（４０）のα_ｃ，ｍは式（４１）のように示すことができる。 Α _{c, m in the} equation (40) can be expressed as the equation (41).

式（４０）のβ_ｃ，ｍは式（４２）のように示すことができる。 The β _{c, m in} equation (40) can be expressed as in equation (42).

式（６）に示されるようにｋ＝ｌｏｇ_２ｅであり、このｋを用いて新たなパラメータのベクトルｗ^{（ｃ，ｍ）}を式（４３）のようにおくことができる。 As shown in equation (6), k = log ₂ e, and using this k, a vector w ^{(c, m)} of a new parameter can be set as in equation (43).

式（４０）を式（３４）と比較すると、ＧＭＭのパラメータμ_ｃ，ｍ、Σ_ｃ，ｍおよびγ_ｃ，ｍを、無制約のベクトルｗ^{（ｃ，ｍ）}で表現可能である。
ベクトルｗ^{（ｃ，ｍ）}の値を適切に獲得することができれば、入力ベクトルｘを非線形変換した新たな入力ベクトルＸとベクトルｗ^{（ｃ，ｍ）}との積を求め、係数を用いた線形方程式およびビットシフトにてベイズ推定の演算を実行できる。そこで、ベクトルｗ^{（ｃ，ｍ）}をニューラルネットワークの重みとして、ｗ^{（ｃ，ｍ）}の値を機械学習によって決定する。 Comparing equation (40) with equation (34), the GMM parameters μ _{c, m} , _{c c, m} and γ _{c, m} can be expressed by the unconstrained vector w ^{(c, m)} .
If the value of the vector w ^{(c, m)} can be properly obtained, the product of a new input vector X obtained by nonlinear transformation of the input vector x and the vector w ^{(c, m)} is obtained, and a linear equation using coefficients It is possible to perform Bayesian estimation operations with and bit shift. Therefore, the value of w ^{(c, m)} is determined by machine learning with the vector w ^{(c, m)} as the weight of the neural network.

図３は、近似ＧＭＭに基づく確率ニューラルネットワークの構成例を示す図である。図３に示す構成で、ニューラルネットワーク２０は、非線形変換部２１と、第１層２２と、第２層２３と、第３層２４とを備える。
非線形変換部２１は、式（３５）に示されるように、入力ベクトルｘ＝［ｘ_１，ｘ_２，・・・，ｘ_Ｄ］^Ｔを新たな入力ベクトルＸに変換する。ここで、新たな入力ベクトルＸの要素数をＨとし、Ｘ＝［Ｘ_１，Ｘ_２，・・・，Ｘ_Ｈ］^Ｔとも表記する。Ｈ＝１＋（Ｄ＋３）／２である。 FIG. 3 is a diagram showing an example of the configuration of a stochastic neural network based on approximate GMM. In the configuration shown in FIG. 3, the neural network 20 includes a non-linear conversion unit 21, a first layer 22, a second layer 23, and a third layer 24.
The nonlinear conversion unit 21 converts the input vector x = [x ₁ , x ₂ ,..., X _D ] ^T into a new input vector X, as shown in equation (35). Here, the number of elements of the new input vector X is H, and is also written as X = [X ₁ , X ₂ ,..., X _H ] ^T. H = 1 + (D + 3) / 2.

第１層２２は、新たな入力ベクトルＸの要素数Ｈと同数のノード２２−１〜２２−Ｈを備える。第１層のノード２２−ｈ（ｈは、１≦ｈ≦Ｈの整数）は、入力されるＸｈを、第２層２３の各ノードへ出力する。ノード２２−ｈへの入力を^（１）Ｉ_ｈとし、ノード２２−ｈからの出力を^（１）Ｏ_ｈとすると、式（４４）のように示される。 The first layer 22 includes nodes 22-1 to 22-H as many as the number H of elements of the new input vector X. The node 22-h (h is an integer of 1 ≦ h ≦ H) of the first layer outputs the input Xh to each node of the second layer 23. Assuming that the input to the node 22-h is ⁽¹⁾ I _h and the output from the node 22-h is ⁽¹⁾ O _h , it is expressed as Expression (44).

第２層２３は、近似ＧＭＭにおける全クラスの全コンポーネントと同数のノード２３−１，１、・・・、２３−１，Ｍ１、・・・、２３−ｃ，ｍ、・・・、２３−Ｃ，Ｍ_Ｃを備える。
第１層２２の全ノードから第２層２３の全ノードへ経路（Path）が設けられ、経路毎に重みが設定される。第１層２２のノードからの出力に重みが乗算されて第２層２３のノードに入力され、第２層のノードは、第１層からの出力の重み付け合計の入力を受ける。第１層２２のノード２２−ｈから第２層２３のノード２３−ｃ，ｍへの経路の重みをｗ_ｈ ^ｃ，ｍとすると、ノード２３−ｃ，ｍへの入力^（２）Ｉ_ｃ，ｍは、式（４５）のように示される。 The second layer 23 includes the same number of nodes 23-1,..., 23-1, M 1,..., 23-c, m,. C, equipped with a _{M C.}
Paths are provided from all nodes in the first layer 22 to all nodes in the second layer 23, and weights are set for each path. The output from the node of the first layer 22 is multiplied by a weight and input to the node of the second layer 23, and the node of the second layer receives the input of the weighted sum of the output from the first layer. When node 23-c of the second layer 23 from the node 22-h of the first layer 22, the weight of the path to m _w ^{h c,} and ^m, node 23-c, the input to the m ⁽²⁾ _{I c, m} is expressed as in equation (45).

第２層２３の各ノードは、式（４０）の演算を行って、クラス毎かつコンポーネント毎の事後確率を算出し出力する。ノード２３−ｃ，ｍからの出力^（２）Ｏ_ｃ，ｍは、式（４６）のように示される。 Each node of the second layer 23 performs the operation of Equation (40) to calculate and output the posterior probability for each class and for each component. Node 23-c, the output from the m _{⁽²⁾ O c, m} is expressed by the equation (46).

式（４６）に示されるように、第２層２３の各ノードが行う計算は、近似計算装置１０が行うべき乗の近似計算を含む。この点で、第２層２３の各ノードは近似計算装置１０の例に該当する。
第３層２４は、クラスの数Ｃと同数のノード２４−１〜２４−Ｃを備える。
第２層２３の各ノードは、自らが対応するクラスに応じて、第３層２４の各ノードのうち当該クラスに対応するノードへデータ（値）を出力する。第２層のノード２３−ｃ，ｍは、第３層２４のノード２４−ｃへ出力を行う。第３層２４の各ノードは、第２層のノードからの出力の合計の入力を受け、当該合計を出力する。
第３層２４のノード２４−ｃへの入力を^（３）Ｉ_ｃとし、ノード２４−ｃからの出力を^（３）Ｏ_ｃとすると、式（４７）のように示される。 As shown in equation (46), the calculation performed by each node of the second layer 23 includes the approximate calculation of the power performed by the approximate calculation device 10. In this regard, each node of the second layer 23 corresponds to an example of the approximate calculation device 10.
The third layer 24 includes the same number of nodes 24-1 to 24-C as the number C of classes.
Each node of the second layer 23 outputs data (value) to a node corresponding to the class among the nodes of the third layer 24 according to the class to which the second layer 23 corresponds. The node 23-c, m in the second layer provides an output to the node 24-c in the third layer 24. Each node of the third layer 24 receives an input of the sum of outputs from the nodes of the second layer and outputs the sum.
Assuming that the input to the node 24-c of the third layer 24 is ⁽³⁾ I _c and the output from the node 24-c is ⁽³⁾ O _c , it is expressed as Expression (47).

次に、ニューラルネットワーク２０における学習則について説明する。ニューラルネットワーク２０は、重みｗ_ｈ ^ｃ，ｍの値を学習する。
学習用データとしてＮ個の入力ベクトルｘ^（ｎ）（ｎは、１≦ｎ≦Ｎの正整数）と、式（４８）に示される教師信号ベクトルＴ^（ｎ）とが与えられた場合を考える。 Next, learning rules in the neural network 20 will be described. The neural network 20 learns the value of the weight w _h ^{c, m} .
Consider the case where N input vectors x ⁽ⁿ⁾ (n is a positive integer of 1 ≦ n N N) and training signal vector T ⁽ⁿ⁾ shown in equation (48) are given as learning data .

カルバック・ライブラー情報量（Kullback-Leibler Divergence）を最小化することでＧＭＭのパラメータを学習的に獲得できるとの前提に基づき、ニューラルネットワーク２０の評価関数を式（４９）のように定義する。   The evaluation function of the neural network 20 is defined as Expression (49) on the premise that the GMM parameters can be learned as learning by minimizing the Kullback-Leibler Divergence.

ニューラルネットワーク２０は、式（４９）のＪを小さくするように学習を行う。
重みｗ_ｈ ^ｃ，ｍの修正量をΔｗ_ｈ ^ｃ，ｍとし、学習率をμとすると、一括学習法によって修正量Δｗ_ｈ ^ｃ，ｍは、式（５０）のように示される。 The neural network 20 performs learning so as to reduce J in equation (49).
Assuming that the correction amount of the weight w _h ^{c, m} is Δw _h ^{c, m} and the learning rate is μ, the correction amount Δw _h ^{c, m} is expressed by equation (50) according to the batch learning method.

式（５０）の（∂Ｊ_ｎ）／（∂ｗ_ｈ ^ｃ，ｍ）は、式（５１）のように表される。 The (∂J _n ) / (∂w _h ^{c, m} ) of the equation (50) is expressed as the equation (51).

ここで、Ｘ_ｈ ^（ｎ）は、入力ベクトルｘ^（ｎ）から得られる新たな入力ベクトルである。
式（５０）および式（５１）は、単純な四則演算で計算可能であり、この点で高速に演算可能である。
また、式（４９）のｌｏｇ_２ ^（３）Ｏ_ｃを高速に演算できるよう近似を行う。ｌｏｇ_２ ^（３）Ｏ_ｃは、式（５２）のように変形できる。 Here, X _h ⁽ⁿ⁾ is a new input vector obtained from the input vector x ⁽ⁿ⁾ .
Equations (50) and (51) can be calculated by simple arithmetic operations, and can be operated at high speed in this respect.
Also, approximation is performed so that log ₂ ⁽³⁾ O _c of equation (49) can be calculated at high speed. log ₂ ⁽³⁾ O _c can be transformed as in equation (52).

ここで、ｍ_ｃ、ｎ_ｃはいずれも整数であり、１≦ｍ_ｃ＜２である。
指数関数ｅｘｐの近似の場合と同様、ｍ_ｃの定義域［１，２）をｎ分割し、ｌｏｇ_２ｍ_ｃを近似する。ｍ_ｃの定義域を等間隔にｎ分割した区間は、式（５３）のように示される。 Here, m _c and n _c are both integers, and 1 ≦ m _c <2.
As in the case of the approximation of the exponential function exp, domain of _{m c} a [1,2) divided into n approximates the _log 2 _{m c.} An interval obtained by dividing the domain of m _c into n at equal intervals is expressed as in equation (53).

この区間におけるｌｏｇ_２ｍ_ｃ上の両端の点は、式（５４）のように示される。 The points at both ends on log ₂ m _c in this section are expressed as in equation (54).

式（５４）に示される両端の点を結ぶ直線（線分）ｇ’’_ｎ，ｌによって、ｌｏｇ_２ｍ_ｃは式（５５）のように近似される。 The log ₂ m _c is approximated as in equation (55) by a straight line (line segment) g ′ ′ _{n, l} connecting the points at both ends shown in equation (54).

ここで、ｃ_ｎ，ｌは、式（５６）のように示される。 Here, c _{n, l} is represented by equation (56).

ｄ_ｎ，ｌは、式（５７）のように示される。 d _{n, l} is expressed as in equation (57).

さらに、ｎ＝１、ｌ＝１とした場合、ｃ_ｎ，ｌ＝１、ｄ_ｎ，ｌ＝−１となり、ｌｏｇ_２ｍ_ｃを式（５８）のように線形近似可能である。 Furthermore, when n = 1 and l = 1, c _{n, l} = 1 and d _{n, l} = -1, and log ₂ m _c can be linearly approximated as in equation (58).

この場合、式（５２）は、式（５９）のように示される。   In this case, equation (52) is expressed as equation (59).

また、式（４９）は、式（６０）のように示される。   Moreover, Formula (49) is shown like Formula (60).

式（５０）の学習率μは、式（６１）に基づいて学習サイクル毎に更新することが考えられる。   The learning rate μ in equation (50) may be updated for each learning cycle based on equation (61).

ここで、学習の収束時間の上限設定値をｔ_ｆとすると、μ_ｋは式（６２）のように示される。 Here, assuming that the upper limit setting value of the convergence time of learning is t _f , μ _k is expressed as in equation (62).

λは０＜λ＜１を満たす任意の定数である。ここで、λ＝０．５とすると、μ_ｋは式（６３）のように示される。 λ is any constant that satisfies 0 <λ <1. Here, assuming that λ = 0.5, μ _k is expressed as in equation (63).

関数ｈ（Ｊ）＝√Ｊをｔの周りでテイラー展開して第２項まで線形近似を行うと、式６４のように示される。   When the function h (J) =) J is subjected to Taylor expansion around t and linear approximation is performed up to the second term, Expression 64 is obtained.

ここで、ｔ＝１とすると式（６５）のように示される。   Here, assuming that t = 1, the equation (65) is obtained.

式（６５）は、Ｊ＝１における接線であり、Ｊ＝１の近傍でのみ近似が成り立つ。近似の精度をより高めるために、式（６５）を式（６６）のように変形する。   Expression (65) is a tangent at J = 1, and approximation is established only in the vicinity of J = 1. In order to further improve the accuracy of approximation, equation (65) is transformed into equation (66).

ここで、０．５≦Ｊ’≦２である。また、ｑは自然数のベクトルである。
このように、比較的簡単な計算にて学習を実現可能である。
次に、上述した近似の精度について検討する。
式（１９）に示される、指数関数の近似関数ｇ_１（ｚ）＝２α（ａ_ｎ，ｌβ＋ｂ_ｎ，ｌ）の、指数関数ｅｘｐ＝ｆ_１（ｚ）に対する誤差率Ｅ_１を式（６７）のように定義する。 Here, 0.5 ≦ J ′ ≦ 2. Also, q is a vector of natural numbers.
Thus, learning can be realized by relatively simple calculation.
The accuracy of the above approximation will now be considered.
The error rate E ₁ of the approximate function g ₁ (z) = 2α (an _{, l} β + b _{n, l} ) of the exponential function to the exponential function exp = f ₁ (z) shown in the equation (19) is Define as).

また、式（１９）に示される、指数関数ｅｘｐの近似関数ｇ’_１（ｚ）＝２α（ａ_ｎ，ｌβ＋ｂ_ｎ，ｌ）の、指数関数ｅｘｐ＝ｆ_１（ｚ）に対する誤差率Ｅ’_１を式（６８）のように定義する。 Further, the error ratio E ′ of the approximate function g ′ ₁ (z) = 2α (a _{n, l} β + b _{n, l} ) of the exponential function exp to the exponential function exp = f ₁ (z) shown in the equation (19) Define ₁ as equation (68).

図４は、近似関数ｇ_１（ｚ）を用いた場合の、指数関数の近似誤差率を示す図である。図４のグラフの横軸はｚの値を示し、縦軸は近似誤差率を示す。
線Ｌ２１は、分割数ｎ＝１の場合の近似誤差率を示す。線Ｌ２２は、分割数ｎ＝２の場合の近似誤差率を示す。線Ｌ２３は、分割数ｎ＝４の場合の近似誤差率を示す。
図４に示すように、分割数ｎが増加すると近似誤差率は小さくなる。近似誤差率が最も大きい分割数ｎ＝１の場合でも、近似誤差率の最大値は７．５９％であり、比較的高精度に近似できている。 FIG. 4 is a diagram showing the approximation error rate of the exponential function when the approximation function g ₁ (z) is used. The horizontal axis of the graph of FIG. 4 shows the value of z, and the vertical axis shows the approximation error rate.
A line L21 indicates the approximation error rate in the case of the division number n = 1. A line L22 indicates the approximation error rate in the case of the division number n = 2. A line L23 indicates the approximation error rate in the case of the division number n = 4.
As shown in FIG. 4, the approximation error rate decreases as the division number n increases. Even in the case of the division number n = 1 where the approximation error rate is the largest, the maximum value of the approximation error rate is 7.59%, and the approximation can be made with relatively high accuracy.

図５は、近似関数ｇ’_１（ｚ）を用いた場合の、指数関数の近似誤差率を示す図である。図５のグラフの横軸はｚの値を示し、縦軸は近似誤差率を示す。
線Ｌ３１は、分割数ｎ＝１の場合の近似誤差率を示す。線Ｌ３２は、分割数ｎ＝２の場合の近似誤差率を示す。線Ｌ３３は、分割数ｎ＝４の場合の近似誤差率を示す。
図５に示すように、分割数ｎが増加すると近似誤差率は小さくなる。近似誤差率が最も大きい分割数ｎ＝１の場合でも、近似誤差率の最大値は６．１５％であり、比較的高精度に近似できている。 FIG. 5 is a diagram showing the approximation error rate of the exponential function when the approximation function g ′ ₁ (z) is used. The horizontal axis of the graph of FIG. 5 shows the value of z, and the vertical axis shows the approximation error rate.
A line L31 indicates the approximation error rate in the case of the division number n = 1. A line L32 indicates the approximation error rate in the case of the division number n = 2. A line L33 indicates the approximation error rate in the case of the division number n = 4.
As shown in FIG. 5, the approximation error rate decreases as the division number n increases. Even in the case of the division number n = 1 where the approximation error rate is the largest, the maximum value of the approximation error rate is 6.15%, and the approximation can be made with relatively high accuracy.

図６は、近似関数ｇ_１（ｚ）、ｇ’_１（ｚ）それぞれの近似誤差率を示す図である。図６では、近似関数ｇ_１（ｚ）、ｇ’_１（ｚ）それぞれについて、分割数ｎ＝１、２、４それぞれの場合の近似誤差率の平均値および最大値を示している。図６を参照すると、近似関数ｇ’_１（ｚ）では、近似関数ｇ_１（ｚ）よりも近似誤差率の平均値が大きくなっているものの、最大値は小さくなっている。もっとも、近似関数ｇ_１（ｚ）とｇ’_１（ｚ）との近似誤差率の相違は１％程度と比較的小さい値である。 FIG. 6 is a diagram showing the approximation error rates of the approximation functions g ₁ (z) and g ′ ₁ (z). FIG. 6 shows, for the approximation functions g ₁ (z) and g ′ ₁ (z), the average value and the maximum value of the approximation error rates in the case of the division number n = 1, 2 and 4, respectively. Referring to FIG. 6, in the approximation function g ′ ₁ (z), the average value of the approximation error rate is larger than that of the approximation function g ₁ (z), but the maximum value is smaller. However, the difference between the approximation error rates of the approximation functions g ₁ (z) and g ′ ₁ (z) is a relatively small value of about 1%.

図７は、近似関数ｇ’_１（ｚ）による指数関数の近似の例を示す図である。図７は、分割数ｎ＝１の場合の例を示している。図７のグラフの横軸はｚを示し、縦軸はｅｘｐ（ｚ）を示す。
線Ｌ４１は、指数関数ｅｘｐ（ｚ）の実際値を示す。線Ｌ４２は、近似関数ｇ’_１（ｚ）による近似値を示す。
図７に示されるように、近似関数ｇ’_１（ｚ）によって指数関数ｅｘｐ（ｚ）を近似できている。 FIG. 7 is a diagram showing an example of approximation of an exponential function by the approximation function g ′ ₁ (z). FIG. 7 shows an example in the case of the division number n = 1. The horizontal axis of the graph of FIG. 7 indicates z, and the vertical axis indicates exp (z).
The line L41 shows the actual value of the exponential function exp (z). A line L42 indicates an approximate value by the approximate function g ′ ₁ (z).
As shown in FIG. 7, the exponential function exp (z) can be approximated by the approximation function g ' ₁ (z).

次に、対数関数の近似精度について検討する。
式（５９）に示される対数関数の近似関数ｇ_２（^（３）Ｏ_ｃ）＝ｍ_ｃ＋ｎ_ｃ−１の、対数関数ｆ_２（^（３）Ｏ_ｃ）＝ｌｏｇ_２ ^（３）Ｏ_ｃに対する近似誤差率を式（６９）のように定義する。 Next, the approximation accuracy of the logarithmic function is examined.
The approximate function g ₂ ( ⁽³⁾ O _c ) = m _c + n _c −1 of the logarithmic function shown in equation (59), the logarithmic function f ₂ ( ⁽³⁾ O _c ) = log ₂ ^{(3) for} O _c The approximation error rate is defined as equation (69).

図８は、近似関数ｇ_２（ｚ）を用いた場合の、対数関数の近似誤差率を示す図である。図８のグラフの横軸は^（３）Ｏ_ｃの値を示し、縦軸は近似誤差率を示す。
線Ｌ５１は、分割数ｎ＝１の場合の近似誤差率を示す。線Ｌ５２は、分割数ｎ＝２の場合の近似誤差率を示す。線Ｌ５３は、分割数ｎ＝４の場合の近似誤差率を示す。
指数関数の近似の場合と同様、対数関数の近似の場合も分割数ｎが増加すると近似誤差率は小さくなる。
^（３）Ｏ_ｃが１に近付くとｌｏｇ_２ ^（３）Ｏ_ｃが０に近付くため、近似誤差率は次第に大きくなる。見かけ上の近似誤差率が大きくなるものの、近似誤差ｆ_２（^（３）Ｏ_ｃ）−ｇ_２（^（３）Ｏ_ｃ）が最も大きい分割数ｎ＝１の場合でも、近似誤差は平均で０．０５８±０．０２６であり、比較的高精度に近似できている。 FIG. 8 is a diagram showing an approximation error rate of a logarithmic function when the approximation function g ₂ (z) is used. The horizontal axis of the graph of FIG. 8 indicates the value of ⁽³⁾ O _c and the vertical axis indicates the approximation error rate.
A line L51 indicates the approximation error rate in the case of the division number n = 1. A line L52 indicates the approximation error rate in the case of the division number n = 2. A line L53 indicates the approximation error rate in the case of the division number n = 4.
As in the case of the approximation of the exponential function, in the case of the approximation of the logarithmic function, the approximation error rate decreases as the division number n increases.
^{(3) When} O _c approaches one, log ₂ ⁽³⁾ O _c approaches zero, so the approximation error rate gradually increases. Although the apparent approximation error rate increases, the approximation error is 0 on average even in the case of the division number n = 1 where the approximation error f ₂ ( ⁽³⁾ O _c ) -g ₂ ( ⁽³⁾ O _c ) is the largest. .058 ± 0.026, and can be approximated with relatively high accuracy.

図９は、近似関数ｇ_２（^（３）Ｏ_ｃ）による対数関数の近似の例を示す図である。図９は、分割数ｎ＝１の場合の例を示している。図９のグラフの横軸は^（３）Ｏ_ｃを示し、縦軸はｌｏｇ_２ ^（３）Ｏ_ｃを示す。
線Ｌ６１は、対数関数ｌｏｇ_２ ^（３）Ｏ_ｃの実際値を示す。線Ｌ６２は、近似関数ｇ_２（^（３）Ｏ_ｃ）による近似値を示す。
図９に示されるように、近似関数ｇ_２（^（３）Ｏ_ｃ）によって対数関数ｅｘｐ（ｌｏｇ_２ ^（３）Ｏ_ｃ）を近似できている。 FIG. 9 is a diagram illustrating an example of approximation of a logarithmic function by the approximation function g ₂ ( ⁽³⁾ O _c ). FIG. 9 shows an example in the case of the division number n = 1. The horizontal axis of the graph of FIG. 9 indicates ⁽³⁾ O _c and the vertical axis indicates log ₂ ⁽³⁾ O _c .
The line L61 shows the actual value of the logarithmic function log ₂ ⁽³⁾ O _c . A line L62 indicates an approximate value by the approximate function g ₂ ( ⁽³⁾ O _c ).
As shown in FIG. 9, the logarithmic function exp (log ₂ ⁽³⁾ O _c ) can be approximated by the approximation function g ₂ ( ⁽³⁾ O _c ).

次に、近似混合ガウスモデルに基づくクラス識別の実験結果について説明する。図３に示すニューラルネットワークをＦＰＧＡ（Field-programmable Gate Array）に実装してクラス識別および学習の実験を行った。
ハードウェア上では、以下の流れで指数関数の演算を行った。
１−１． ^（２）Ｉ_ｃ，ｍの整数値をα_ｃ，ｍとし、小数値をβ_ｃ，ｍとする。
１−２． β_ｃ，ｍに１を加え、α_ｃ，ｍビット左シフトする。 Next, experimental results of class identification based on the approximate mixed Gaussian model will be described. The neural network shown in FIG. 3 was implemented in an FPGA (Field-programmable Gate Array) to conduct an experiment of class identification and learning.
On hardware, the exponential function was calculated in the following flow.
1-1. ⁽²⁾ Let an integer value of I _{c, m be} α _{c, m} and let a decimal value be β _{c, m} .
1-2. Add 1 to β _{c, m} and shift left by α _{c, m} bits.

また、対数関数の演算は、以下のように行った。
２−１． ^（３）Ｏ_ｃ≦１のとき２−２．へ進む。^（３）Ｏ_ｃ＞１のとき２−３．へ進む。
２−２． ^（３）Ｏ_ｃを２倍（１ビット左シフト）し、２−１．へ戻る。
２−３． ２−２．で２倍した回数（１ビット左シフトした回数）をｎｃとし、式（５９）の演算を行う。 Moreover, the calculation of the logarithmic function was performed as follows.
2-1. ^{(3) When} O _c ≦ 1, 2-2. Go to ^{(3) When} O _c > 1 2-3. Go to
2-2. ⁽³⁾ Double O _c (1 bit left shift), 2-1. Return to
2-3. 2-2. The number of times multiplied by 2 (the number of times of 1-bit left shift) is set as nc, and the equation (59) is calculated.

平方根関数は、以下のように計算可能である。
３−１． Ｊ＞２のとき３−２．に進む。Ｊ≦２のとき、３−３．に進む。
３−２． Ｊを１／４倍（２ビット右シフト）し、３−１．へ戻る。
３−３． ３−２．で１／４倍した回数（２ビット右シフトした回数）をｑとして、式（６６）の演算を行う。
以上より、ハードウェア上で指数関数、対数関数、平方根関数の各演算をシフト演算および加減算にて実行可能である。 The square root function can be calculated as follows.
3-1. When J> 2 3-2. Go to When J ≦ 2, 3-3. Go to
3-2. J is multiplied by 1/4 (2-bit shift right), 3-1. Return to
3-3. 3-2. The operation of equation (66) is performed, where q is the number of times multiplied by 1⁄4 (the number of times of right shift by 2 bits).
As described above, each operation of an exponential function, a logarithmic function, and a square root function can be executed on the hardware by shift operation and addition / subtraction.

実験の比較対象として、上記の近似を行わない混合ガウスモデルによるニューラルネットワークをソフトウェアで構築した。ソフトウェアによるニューラルネットワークの構築は、ＣＰＵクロック周波数３．４０ギガヘルツ（ＧＨｚ）、ＲＡＭ（Random Access Memory）１６．０ギガバイト（ＧＢ）のコンピュータおよびＣ言語を用いて行った。
以下では、近似混合ガウスモデルによるニューラルネットワークのＦＰＧＡを用いた構成を近似ＧＭＭハード構成と称する。また、近似を行わない混合ガウスモデルによるニューラルネットワークのソフトウェアによる構成をＧＭＭソフト構成と称する。 As a comparison target of the experiment, a neural network with a mixed Gaussian model without the above approximation was constructed by software. The software-based neural network was constructed using a CPU clock frequency of 3.40 gigahertz (GHz) and a random access memory (RAM) computer of 16.0 gigabytes (GB) and a C language.
Hereinafter, a configuration using an FPGA of a neural network based on an approximate mixed Gaussian model is referred to as an approximate GMM hardware configuration. Moreover, the software configuration of the neural network based on the mixed Gaussian model without approximation is referred to as a GMM software configuration.

クラスの識別率については、ＧＭＭソフト構成、近似ＧＭＭハード構成共に約９９と高い識別率を示し、有意差は認められなかった。
学習時間については、ＧＭＭソフト構成が６．４３秒であったのに対し、近似ＧＭＭハード構成では８．４７ミリ秒と、おおよそ８００分の１の時間に短縮された。
上記のように、指数関数、対数関数、平方根関数の各演算をシフト演算および加減算にて実行可能であり、この点で、ハードウェア実装が容易である。ハードウェア実装および計算の簡単化により、上記のように学習時間が大幅に短縮された。 With regard to the class discrimination rate, both the GMM software configuration and the approximate GMM hard configuration showed a high discrimination rate of about 99, and no significant difference was observed.
With regard to the learning time, the GMM software configuration was 6.43 seconds, while the approximate GMM hard configuration was reduced to approximately 1.800 ms, which is 8.47 ms.
As described above, each operation of an exponential function, a logarithmic function, and a square root function can be performed by shift operation and addition / subtraction, and in this respect, hardware implementation is easy. The simplification of the hardware implementation and the calculation greatly reduced the learning time as described above.

以上のように、指数分離部１２は、２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する。小数部分計算部１４は、指数の小数部分について２のべき乗を直線近似で計算する。乗算部１５は、整数部分についての２のべき乗の計算結果と、小数部分計算部１４による小数部分についての２のべき乗の計算結果とを乗算する。
これにより、近似計算装置１０では、指数の小数部分についての２のべき乗を簡単な線形演算に置き換えることができる。この点で、近似計算装置１０によれば、ハードウェア実装が容易であり、ハードウェア実装および演算の簡単化による演算時間の短縮が見込まれる。 As described above, the exponent separation unit 12 separates the exponent of the real power of 2 into the integer part and the fraction part of 0 or more and less than 1. The fractional part calculation unit 14 calculates the power of 2 for the fractional part of the exponent by linear approximation. The multiplication unit 15 multiplies the calculation result of the power of 2 for the integral part and the calculation result of the power of 2 for the fractional part by the fractional part calculation unit 14.
Thus, the approximate computer 10 can replace the power of 2 for the fractional part of the exponent with a simple linear operation. In this point, according to the approximate calculation device 10, hardware implementation is easy, and shortening of the operation time by hardware implementation and simplification of operation is expected.

また、整数部分計算部１３は、指数の整数部分について２のべき乗をシフト演算で計算する。
近似計算装置１０によれば、指数の整数部分について２のべき乗をシフト演算で行う点で、ハードウェア実装が容易であり、ハードウェア実装および演算の簡単化による演算時間の短縮が見込まれる。 Further, the integer part calculation unit 13 calculates the power of 2 for the integer part of the exponent by shift operation.
According to the approximate calculation device 10, hardware implementation is easy in that power conversion of 2 is performed on the integer part of the exponent by shift operation, and shortening of operation time by hardware implementation and simplification of operation is expected.

また、小数部分計算部１４は、０以上１未満の区間を分割した区間毎の直線近似にて指数の小数部分についての２のべき乗を計算する。
これにより、近似計算装置１０では、特に高い演算精度を要求される場合は分割数を多くして近似の精度を高めることができる。かつ、区間毎の直線近似にて、指数の小数部分についての２のべき乗を簡単な線形演算に置き換えることができる。この点で、近似計算装置１０によれば、ハードウェア実装が容易であり、ハードウェア実装および演算の簡単化による演算時間の短縮が見込まれる。 Further, the fractional part calculation unit 14 calculates a power of 2 with respect to the fractional part of the exponent by linear approximation for each section obtained by dividing the section between 0 and 1 inclusive.
As a result, in the approximate calculation device 10, the number of divisions can be increased to increase the accuracy of approximation when particularly high calculation accuracy is required. And, with linear approximation per interval, the power of 2 for the fractional part of the exponent can be replaced by a simple linear operation. In this point, according to the approximate calculation device 10, hardware implementation is easy, and shortening of the operation time by hardware implementation and simplification of operation is expected.

また、小数部分計算部１４は、０以上１未満の区間を分割した区間における２のべき乗の両端を結んだ線分にて直線近似を行う。
これにより、近似計算装置１０では、指数の小数部分についての２のべき乗を、より簡単な線形演算に置き換えることができる。この点で、近似計算装置１０によれば、ハードウェア実装が容易であり、ハードウェア実装および演算の簡単化による演算時間の短縮が見込まれる。 Further, the fractional part calculation unit 14 performs linear approximation with a line segment connecting both ends of the power of 2 in a section obtained by dividing a section of 0 or more and less than 1.
Thus, the approximate computer 10 can replace the power of 2 for the fractional part of the exponent with a simpler linear operation. In this point, according to the approximate calculation device 10, hardware implementation is easy, and shortening of the operation time by hardware implementation and simplification of operation is expected.

また、底変換部１１は、ネイピア数の実数乗を２の実数乗に換算する。
これにより、近似計算装置１０では、ネイピア数を底とする指数関数を、より簡単な演算に置き換えることができる。 Also, the base conversion unit 11 converts the Napier's number to the real power of 2.
As a result, in the approximate calculation device 10, the exponential function based on the number of Napiers can be replaced with a simpler operation.

また、底変換部１１は、混合ガウスモデルに基づくベイズ識別におけるネイピア数の実数乗を２の実数乗に換算する。
近似計算装置１０によれば、混合ガウスモデルを近似する近似混合ガウスモデルを用いることができる。近似混合ガウスモデルは、混合ガウスモデルと比較して、より簡単な演算で実装可能である。この点で、近似計算装置１０によれば近似混合ガウスモデルのハードウェア実装が容易であり、ハードウェア実装および演算の簡単化による演算時間の短縮が見込まれる。 Further, the base conversion unit 11 converts the power of Napier's number to the real power of 2 in Bayesian discrimination based on the mixed Gaussian model.
According to the approximate calculation device 10, an approximate mixed Gaussian model that approximates the mixed Gaussian model can be used. The approximate mixed Gaussian model can be implemented with simpler operations as compared to the mixed Gaussian model. In this respect, according to the approximate calculation device 10, the hardware implementation of the approximate mixed Gaussian model is easy, and the shortening of the operation time by the simplification of the hardware implementation and the calculation is expected.

なお、近似計算装置１０が行う演算及び制御の全部または一部の機能を実現するためのプログラムを、コンピュータまたはハードウェアが読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムまたはハードウェアに読み込ませ、実行することで各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。 Note that the program for realizing all or part of the functions and operations of the calculation and control performed by the approximate calculation device 10 is recorded in a recording medium readable by a computer or hardware, and the program recorded in this recording medium is The processing of each part may be performed by reading and executing it in a computer system or hardware. Here, the “computer system” includes an OS and hardware such as peripheral devices.
The "computer system" also includes a homepage providing environment (or display environment) if the WWW system is used.
The term "computer-readable recording medium" refers to a storage medium such as a flexible disk, a magneto-optical disk, a ROM, a portable medium such as a ROM or a CD-ROM, or a hard disk built in a computer system. The program may be for realizing a part of the functions described above, or may be realized in combination with the program already recorded in the computer system.

以上、本発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。   The embodiment of the present invention has been described in detail with reference to the drawings, but the specific configuration is not limited to this embodiment, and design changes and the like within the scope of the present invention are also included.

１０ 近似計算装置
１１ 底変換部
１２ 指数分離部
１３ 整数部分計算部
１４ 小数部分計算部
１５ 乗算部
２０ ニューラルネットワーク
２１ 非線形変換部
２２ 第１層
２３ 第２層
２４ 第３層 DESCRIPTION OF SYMBOLS 10 Approximation calculation apparatus 11 Bottom conversion part 12 Exponent separation part 13 Integer partial calculation part 14 Fractional part calculation part 15 Multiplication part 20 Neural network 21 Nonlinear conversion part 22 1st layer 23 2nd layer 24 3rd layer

Claims (8)

２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離部と、
前記小数部分について２のべき乗を直線近似で計算する小数部分計算部と、
前記整数部分についての２のべき乗の計算結果と、前記小数部分計算部による前記小数部分についての２のべき乗の計算結果とを乗算する乗算部と、
を備える近似計算装置。 An exponent separation unit that separates the exponent of the real power of 2 into an integral part and a fractional part between 0 and 1;
A fractional part calculation unit that calculates, by linear approximation, a power of 2 on the fractional part;
A multiplication unit for multiplying the calculation result of the power of 2 for the integral part and the calculation result of the power of 2 for the fractional part by the fractional part calculation unit;
An approximate calculation device comprising: 前記整数部分について２のべき乗をシフト演算で計算する整数部分計算部を備える、請求項１に記載の近似計算装置。   The approximate calculation device according to claim 1, further comprising an integer part calculation unit configured to calculate a power of 2 for the integer part by a shift operation. 前記小数部分計算部は、前記０以上１未満の区間を分割した区間毎の直線近似にて前記小数部分についての２のべき乗を計算する、請求項１または請求項２に記載の近似計算装置。   The approximate calculation device according to claim 1 or 2, wherein the fractional part calculation unit calculates a power of 2 for the fractional part by linear approximation for each of the sections obtained by dividing the section between 0 and 1 inclusive. 前記小数部分計算部は、前記０以上１未満の区間を分割した区間における２のべき乗の両端を結んだ線分にて前記直線近似を行う、請求項３に記載の近似計算装置。   4. The approximate calculation device according to claim 3, wherein the fractional part calculation unit performs the linear approximation using a line segment connecting both ends of the power of 2 in a section obtained by dividing the section between 0 and 1 inclusive. ネイピア数の実数乗を２の実数乗に換算する底変換部を備える、請求項１から４のいずれか一項に記載の近似計算装置。   The approximate calculation device according to any one of claims 1 to 4, further comprising a base conversion unit that converts the Napier's number to the real power of two. 前記底変換部は、混合ガウスモデルに基づくベイズ識別におけるネイピア数の実数乗を２の実数乗に換算する、請求項５に記載の近似計算装置。   The approximate calculation device according to claim 5, wherein the base conversion unit converts the power of Napier's number in real number to the power of 2 in the Bayesian discrimination based on the mixed Gaussian model. ２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離ステップと、
前記小数部分について２のべき乗を直線近似で計算する小数部分計算ステップと、
前記整数部分についての２のべき乗の計算結果と、前記小数部分計算ステップでの前記小数部分についての２のべき乗の計算結果とを乗算する乗算ステップと、
を含む近似計算方法。 Exponential separation step which separates the exponent of the real power of 2 into an integral part and a fractional part between 0 and 1;
A fractional part calculation step of calculating by a linear approximation a power of 2 for the fractional part;
A multiplication step of multiplying the calculation result of the power of 2 for the integral part and the calculation result of the power of 2 for the fractional part in the fractional part calculation step;
Approximate calculation method including. プログラミング可能な装置に
２の実数乗の指数を整数部分と０以上１未満の小数部分とに分離する指数分離ステップと、
前記小数部分について２のべき乗を直線近似で計算する小数部分計算ステップと、
前記整数部分についての２のべき乗の計算結果と、前記小数部分計算ステップでの前記小数部分についての２のべき乗の計算結果とを乗算する乗算ステップと、
を実行させるためのプログラム。 The programmable device comprises an exponential separation step which separates the exponent of the real power of 2 into an integral part and a fractional part between 0 and 1;
A fractional part calculation step of calculating by a linear approximation a power of 2 for the fractional part;
A multiplication step of multiplying the calculation result of the power of 2 for the integral part and the calculation result of the power of 2 for the fractional part in the fractional part calculation step;
A program to run a program.

Images