JP2009223437A - New signal generation device and new signal generation method - Google Patents
New signal generation device and new signal generation method Download PDFInfo
- Publication number
- JP2009223437A JP2009223437A JP2008064814A JP2008064814A JP2009223437A JP 2009223437 A JP2009223437 A JP 2009223437A JP 2008064814 A JP2008064814 A JP 2008064814A JP 2008064814 A JP2008064814 A JP 2008064814A JP 2009223437 A JP2009223437 A JP 2009223437A
- Authority
- JP
- Japan
- Prior art keywords
- data
- signal generation
- layer
- output
- new signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
Abstract
Description
本発明は、記憶装置に記憶した既存信号の特徴量を変更することで、元の信号とは異なる新規信号を生成する技術に関する。 The present invention relates to a technique for generating a new signal different from an original signal by changing a feature amount of an existing signal stored in a storage device.
画像や音声の再生、ロボット動作の生成などにおいては、記憶装置等に保持している既存の信号パターンしか出力できない。このため、様々な種類の画像、音声、ロボット動作を出力するためには、非常に数多くの信号パターンを記憶しておく必要があり、記憶装置の容量、コストが大となる。 In the reproduction of images and sounds, the generation of robot motions, etc., only existing signal patterns held in a storage device or the like can be output. For this reason, in order to output various types of images, sounds, and robot operations, it is necessary to store a large number of signal patterns, which increases the capacity and cost of the storage device.
一方、砂時計型ニューラルネットワークを利用する情報処理装置であって、ロボット等の情報処理において、少ない情報数で有効に情報処理が可能となる技術が公開されている（特許文献１等）。
しかしながら、上記技術においては、記憶装置等に記憶させた信号しか出力させることができないという問題が依然として存在する。 However, the above technique still has a problem that only signals stored in a storage device or the like can be output.
そこで、本発明では、上記問題点に鑑み、少ない記憶容量で多数の信号パターンを生成することができる新規信号生成装置を提供することを目的とする。 In view of the above problems, an object of the present invention is to provide a new signal generation apparatus capable of generating a large number of signal patterns with a small storage capacity.
本発明に係る新規信号生成装置では、入力層と中間層と出力層とから構成される砂時計型ニューラルネットワークに関して、前記砂時計型ニューラルネットワークへ入力されたデータに基づき、前記出力層からデータを出力する新規信号生成装置であって、前記入力層に入力される教師データと前記出力層から出力される当該教師データとが等しくなるような前記砂時計型ニューラルネットワークの学習を行った結果、前記教師データに関する特徴量を前記中間層の一部を構成する圧縮層からの出力として抽出する特徴量抽出手段と、前記特徴量抽出手段により抽出された前記特徴量を変更したデータを、前記圧縮層からの出力とする信号変更手段と、前記信号変更手段により変更された前記データに基づき、前記出力層からデータを出力する信号生成手段と、を有することを特徴とする。 In the novel signal generation device according to the present invention, regarding an hourglass neural network including an input layer, an intermediate layer, and an output layer, data is output from the output layer based on data input to the hourglass neural network. As a result of learning of the hourglass neural network in which the teacher data input to the input layer and the teacher data output from the output layer are equal, the new signal generation device Feature quantity extraction means for extracting the feature quantity as an output from the compression layer constituting a part of the intermediate layer, and output from the compression layer of the data obtained by changing the feature quantity extracted by the feature quantity extraction means Based on the data changed by the signal changing means and the data changed by the signal changing means, the data is output from the output layer. And having a signal generating means.
また、本発明に係る新規信号生成装置の一形態では、前記圧縮層にニューロンを追加する圧縮層ニューロン追加手段を有することを特徴とする。 Moreover, one form of the novel signal generation device according to the present invention is characterized by comprising compression layer neuron addition means for adding neurons to the compression layer.
また、本発明に係る新規信号生成装置の一形態では、所定のデータに対して多重解像度解析を行って得られた当該データに関する周波数特徴量に基づき、当該データを生成する新規信号生成装置であって、前記多重解像度解析を行って得られた前記データに関する周波数特徴量を変更する特徴量変更手段と、前記特徴量変更手段により変更された前記周波数特徴量に基づいて、前記多重解像度解析の逆変換をすることによってデータを生成する信号生成手段と、を有することを特徴とする。 In addition, in one form of the new signal generation device according to the present invention, the new signal generation device generates the data based on the frequency feature amount regarding the data obtained by performing the multiresolution analysis on the predetermined data. A feature amount changing means for changing a frequency feature amount relating to the data obtained by performing the multi-resolution analysis, and a reverse of the multi-resolution analysis based on the frequency feature amount changed by the feature amount changing means. Signal generating means for generating data by performing conversion.
また、本発明に係る新規信号生成装置の一形態では、前記多重解像度解析は、前記所定のデータに対してフーリエ解析を行うことを特徴とする。 Moreover, in one form of the novel signal generation device according to the present invention, the multi-resolution analysis is characterized by performing Fourier analysis on the predetermined data.
また、本発明に係る新規信号生成装置の一形態では、前記多重解像度解析は、前記所定のデータに対してウェーブレット解析を行うことを特徴とする。 Moreover, in one form of the novel signal generation device according to the present invention, the multi-resolution analysis is characterized by performing wavelet analysis on the predetermined data.
従って、本発明では、少ない記憶容量で多数の信号パターンを生成することができる新規信号生成装置を提供することができる。 Therefore, the present invention can provide a new signal generation apparatus capable of generating a large number of signal patterns with a small storage capacity.
本発明では、少ない記憶容量で多数の信号パターンを生成することができる新規信号生成装置を提供することができる。 The present invention can provide a new signal generation apparatus capable of generating a large number of signal patterns with a small storage capacity.
図面を参照しながら、本発明を実施するための最良の形態について説明する。 The best mode for carrying out the present invention will be described with reference to the drawings.
（本実施の形態に係る新規信号生成装置の動作原理）
図１〜図５を用いて、本実施の形態に係る新規信号生成装置の動作原理について説明する。
(Operation Principle of New Signal Generating Device According to this Embodiment)
The operation principle of the new signal generation device according to the present embodiment will be described with reference to FIGS.
新規信号生成装置１００は、所定のデータを砂時計型ニューラルネットワーク（以下、ＳＮＮ）に入力して、当該ＳＮＮを介して出力層から入力データに対応するデータを出力する装置である。
The new
はじめに、図１を用いて、本実施の形態に係るＳＮＮについて説明する。図１は、本実施の形態に係るＳＮＮを説明する図である。 First, the SNN according to the present embodiment will be described with reference to FIG. FIG. 1 is a diagram for explaining the SNN according to the present embodiment.
ＳＮＮは、入力層、中間層、出力層から構成され、当該中間層は、中間層（１）、中間層（２）、圧縮層から構成される。ここで、図１では中間層の層数を３層としているが、中間層の層数は、１層でも良く、複数層としても良い。ただし、中間層の構成は、１つの圧縮層を中心として、左右対称に他の中間層が配置される形態とする。従って、中間層の層数は、１＋２ｎ（ｎは自然数）となる。 The SNN includes an input layer, an intermediate layer, and an output layer. The intermediate layer includes an intermediate layer (1), an intermediate layer (2), and a compression layer. Here, although the number of intermediate layers is three in FIG. 1, the number of intermediate layers may be one or a plurality of layers. However, the configuration of the intermediate layer is such that another intermediate layer is arranged symmetrically about one compressed layer as a center. Therefore, the number of intermediate layers is 1 + 2n (n is a natural number).
また、図１に示す入力層、中間層、出力層を構成するニューロンの数は、適宜、変更しても良い。 Further, the number of neurons constituting the input layer, intermediate layer, and output layer shown in FIG. 1 may be changed as appropriate.
また、ＳＮＮの入力層から入力されたデータは、中間層、出力層の方向へ伝搬されて行くものとする。 In addition, data input from the input layer of the SNN is assumed to be propagated toward the intermediate layer and the output layer.
ＳＮＮの入力層、中間層（１）、圧縮層、中間層（２）、出力層を構成する各ニューロンＮｉは、所定の伝達関数に従って入力Ｘｉに対して１つの出力Ｙｉを出力する。 Each neuron Ni constituting the input layer, intermediate layer (1), compression layer, intermediate layer (2), and output layer of the SNN outputs one output Yi for the input Xi according to a predetermined transfer function.
本実施の形態では、伝達関数として下記（１）式で表されるシグモイド関数が用いられている。なお、下記（１）式におけるθｉはニューロンＮｉ毎の閾値である。
Ｙｉ＝１／（１＋ｅｘｐ（−Ｘｉ−θｉ）） …（１）
また、中間層（１）、圧縮層、中間層（２）、出力層においては、前記（１）式における入力Ｘｉは、それぞれ上流側の各ニューロンＮｊと下流側のニューロンＮｉとの結合重み係数をＷｉｊとした場合、ニューロンＮｉへの入力Ｘｉは、
Ｘｉ＝Σ（Ｗｉｊ×Ｙｊ） …（２）
となる。
In the present embodiment, a sigmoid function expressed by the following equation (1) is used as a transfer function. In the following equation (1), θi is a threshold value for each neuron Ni.
Yi = 1 / (1 + exp (−Xi−θi)) (1)
In the intermediate layer (1), the compression layer, the intermediate layer (2), and the output layer, the input Xi in the equation (1) is a connection weight coefficient between each neuron Nj on the upstream side and the neuron Ni on the downstream side. Is Wij, the input Xi to the neuron Ni is
Xi = Σ (Wij × Yj) (2)
It becomes.
なお、伝達関数は、前記（１）式に示したシグモイド関数以外の関数を用いることも可能である。 As the transfer function, a function other than the sigmoid function shown in the equation (1) can be used.
ＳＮＮの学習では、入力層から入力されるデータと等しい教師データを用いて学習を行う。つまり、ＳＮＮの学習では、ＳＮＮへの入力データとＳＮＮからの出力データが等しくなるように学習を行う。 In SNN learning, learning is performed using teacher data equal to data input from the input layer. That is, in learning of the SNN, learning is performed so that the input data to the SNN is equal to the output data from the SNN.
また、ＳＮＮの学習は、このＳＮＮの出力データと教師データとの誤差の２乗和を最小にするように、この誤差データを出力層から入力層に逆伝搬（バックプロパゲーション）させ、ＳＮＮの各層を構成するニューロン間の結合重みを変化させることによって行われる形態とする（誤差逆伝搬法）。また、遺伝的アルゴリズム等他の手法を用いて、ＳＮＮの学習を行う形態としても良い。 Further, in learning of the SNN, the error data is back-propagated (back-propagated) from the output layer to the input layer so that the square sum of the error between the output data of the SNN and the teacher data is minimized. The mode is performed by changing the connection weight between neurons constituting each layer (error back propagation method). Moreover, it is good also as a form which learns SNN using other methods, such as a genetic algorithm.
さらに、ＳＮＮの学習においては、学習開始時における圧縮層のニューロン数は１つとする。その状態で一旦学習を開始し、誤差（＝入力層への入力データと出力層からの出力データとの差）の学習ステップ毎の減少値が一定値以下となった場合に、圧縮層へニューロンを追加することとする。以降、この処理を繰り返して行い、最終的に誤差が所定の閾値以下となった場合に、ＳＮＮの学習処理は終了する。 Furthermore, in SNN learning, the number of neurons in the compression layer at the start of learning is one. In that state, once learning is started, when the error (= difference between the input data to the input layer and the output data from the output layer) decreases for each learning step below a certain value, the neuron is sent to the compression layer. Will be added. Thereafter, this process is repeated, and when the error finally becomes equal to or smaller than a predetermined threshold value, the SNN learning process ends.
図１では、上記ＳＮＮの学習の結果、圧縮層として３つのニューロンが生成されていることを示している。 FIG. 1 shows that three neurons are generated as a compression layer as a result of learning of the SNN.
上記のようなＳＮＮの学習によって、得られたＳＮＮに係る圧縮層からの出力は、教師データを主成分分析した結果と等価となる。そして、学習開始時にあった圧縮層のニューロンからの出力は教師データの第１主成分を示し、次に追加された圧縮層のニューロンからの出力は教師データの第２主成分を示す。従って、ｎ番目に追加された圧縮層のニューロンからの出力は教師データの第ｎ主成分を示すようになる。 By the SNN learning as described above, the output from the compression layer related to the obtained SNN is equivalent to the result of principal component analysis of the teacher data. Then, the output from the neurons of the compression layer at the start of learning indicates the first principal component of the teacher data, and the output from the neurons of the compression layer added next indicates the second principal component of the teacher data. Therefore, the output from the neuron of the nth added compression layer indicates the nth principal component of the teacher data.
このようにＳＮＮで主成分分析を行う利点は、非線形の主成分分析を、当該分析を行うデータの属性に依存せずに、行うことができる点にある。 Thus, the advantage of performing principal component analysis with SNN is that nonlinear principal component analysis can be performed without depending on the attribute of the data to be analyzed.
また、ＳＮＮの学習においては、上記のように学習の進捗に合わせて圧縮層にニューロンを追加する方法に代えて、学習の当初から圧縮層に複数個のニューロンを予め用意した上で、誤差逆伝搬法等によるＳＮＮの学習を行う形態としても良い。 In SNN learning, instead of adding a neuron to the compression layer in accordance with the progress of learning as described above, a plurality of neurons are prepared in the compression layer in advance from the beginning of learning, and the error is reversed. It is good also as a form which learns SNN by a propagation method etc.
ここで図２は、本実施の形態に係る新規信号生成装置１００の動作原理を説明する図である。
Here, FIG. 2 is a diagram for explaining the operation principle of the new
新規信号生成装置１００は、教師データ学習手段１１０、特徴量抽出手段１２０、信号変更手段１３０、信号生成手段１４０、圧縮層ニューロン追加手段１５０を有する。
The new
教師データ学習手段１１０は、教師データを用いて、図１で示すようにＳＮＮを学習させる。上記説明のようにＳＮＮの学習は、入力層から入力されるデータと出力層から出力されるデータとが等しくなるように行う。
The teacher
また、教師データは画像データ、音声データ、ロボット動作情報データ等、データの属性には拘束されず、どの様なデータでも適用することができる。 The teacher data is not restricted by data attributes such as image data, audio data, and robot motion information data, and any data can be applied.
また、教師データ学習手段１１０は、上記説明の誤差逆伝搬法を用いてＳＮＮの学習を行う形態とするが、他手法を用いてＳＮＮの学習を行う形態としても良い。
The teacher
特徴量抽出手段１２０は、教師データ学習手段１１０によるＳＮＮの学習を行った結果、図１で示すようにＳＮＮの圧縮層からの出力として、教師データの特徴量を抽出する。
As a result of the learning of the SNN by the teacher
教師データの学習が終了したＳＮＮ（学習後ＳＮＮ）では、当該ＳＮＮの圧縮層の出力を上記特徴量とすると、その出力層から当該教師データを出力する。 The SNN that has finished learning the teacher data (post-learning SNN) outputs the teacher data from the output layer, assuming that the output of the compression layer of the SNN is the feature quantity.
信号変更手段１３０は、特徴量抽出手段１２０により抽出された特徴量を変更し、その変更したデータを上記圧縮層の出力としてＳＮＮに入力する。つまり、信号変更手段１３０は、特徴量抽出手段１２０により抽出された特徴量を変更して、それを学習後ＳＮＮの圧縮層からの出力とする。
The
圧縮層ニューロン追加手段１４０は、学習後ＳＮＮの圧縮層にニューロンを追加する。追加するニューロンは、１つでも複数でも良い。 The compressed layer neuron adding means 140 adds neurons to the compressed layer of the SNN after learning. One or more neurons may be added.
信号生成手段１４０は、学習後ＳＮＮの圧縮層の出力として入力されたデータに基づき、ＳＮＮの出力層からデータを出力する。 The signal generation means 140 outputs data from the output layer of the SNN based on the data input as the output of the compressed layer of the SNN after learning.
ここで、図３は信号生成手段１４０による処理を説明するための図である。図３に示すように、信号生成手段１４０は、圧縮層の出力として入力されたデータを中間層（２）、出力層の方向へ順に伝達し、教師データと同じ次元のデータを当該出力層から出力する。
Here, FIG. 3 is a diagram for explaining processing by the
また、特徴量抽出手段１２０により抽出した教師データの特徴量を変更して、ＳＮＮの圧縮層の出力として入力すると、信号生成手段１４０は、当該ＳＮＮの出力層から、教師データと異なる新規なデータを出力する。
When the feature amount of the teacher data extracted by the feature
こうすることで、本発明に係る新規信号生成装置１００は、ＳＮＮ（記憶装置）に記憶させるデータを増やすことなく、新規な信号を生成することができる。
By doing so, the new
ここで、図４は信号生成手段１４０及び圧縮層ニューロン追加手段１５０による処理を説明するための図である。図４に示すように、圧縮層ニューロン追加手段１５０は、学習後ＳＮＮの圧縮層に新規なニューロンを追加する。 Here, FIG. 4 is a diagram for explaining the processing by the signal generation means 140 and the compression layer neuron addition means 150. As shown in FIG. 4, the compression layer neuron addition means 150 adds a new neuron to the compression layer of the learned SNN.
そして、当初からあった圧縮層に加えて、圧縮層ニューロン追加手段１５０により追加されたニューロンからもデータを出力すると、信号生成手段１４０は、当該データを中間層（２）、出力層の方向へ順に伝達し、当該出力層から教師データと同じ次元を有するが、教師データとは異なる新規なデータを出力する。 When data is output from the neurons added by the compression layer neuron adding means 150 in addition to the original compression layer, the signal generation means 140 sends the data to the intermediate layer (2) and the output layer. The data is transmitted in order, and new data having the same dimension as the teacher data but different from the teacher data is output from the output layer.
こうすることで、本発明に係る新規信号生成装置１００は、ＳＮＮ（記憶装置）に記憶させるデータを増やすことなく、新規な信号を生成することができる。
By doing so, the new
ここで、圧縮層ニューロン追加手段１５０により圧縮層にニューロンを追加した後、例えば、図４で示す当該追加したニューロンと中間層（２）を構成するニューロンとの間の結合重みについてのみ、所定の学習データを用いて、学習を行う形態としても良い。 Here, after adding a neuron to the compression layer by the compression layer neuron addition means 150, for example, only a connection weight between the added neuron and the neurons constituting the intermediate layer (2) shown in FIG. It is good also as a form which learns using learning data.
こうすることで、圧縮層ニューロン追加手段１５０により追加したニューロンからの出力に基づき、学習後ＳＮＮから新たなデータを出力させることができる。 In this way, new data can be output from the post-learning SNN based on the output from the neuron added by the compression layer neuron adding means 150.
ここで、図５は信号生成装置１００の別形態に係る動作原理を説明するための図である。
Here, FIG. 5 is a diagram for explaining an operation principle according to another embodiment of the
本実施の形態に係る新規信号生成装置１００は、多重解像度解析手段１６０、特徴量変更手段１７０、信号生成手段１８０を有する。
The new
多重解像度解析手段１６０は、所定のデータに対して多重解像度解析を行った結果、当該信号についての周波数特徴量を抽出する。
The
ここで、多重解像度解析とは、所定のデータに対して、フーリエ解析を行ったり、又はウェーブレット解析を行うことである。 Here, the multi-resolution analysis is to perform Fourier analysis or wavelet analysis on predetermined data.
つまり、多重解像度解析手段１６０は、所定のデータに対し、離散フーリエ変換又は離散ウェーブレット変換を行った結果として得られる各変換係数として、当該データの周波数特徴量を抽出する。
That is, the
また、所定のデータに対して行う多重解像度解析は、離散フーリエ変換、離散ウェーブレット変換に限られない。 The multiresolution analysis performed on predetermined data is not limited to discrete Fourier transform and discrete wavelet transform.
また、所定のデータは、画像データ、音声データ、ロボット動作情報データ等、データの属性には拘束されず、どの様なデータでも適用することができる。 Further, the predetermined data is not restricted by data attributes such as image data, sound data, robot motion information data, and any data can be applied.
特徴量変更手段１７０は、多重解像度解析手段１６０により得られた変換係数を変更する。例えば、特徴量変更手段１７０は、当該変換係数について、高周波成分に係る係数をゼロとしたり、低周波成分に係る係数を変更する形態が考えられる。
The feature
また、特徴量変更手段１７０は、周波数特徴量を新たに追加して、元データの周波数特徴量を変更する形態としても良い。
Further, the feature
信号生成手段１８０は、特徴量変更手段１７０により変更した各変換係数に基づき、多重解像度解析の逆変換を行い、新規なデータを生成する。
The
こうすることにより、記憶装置に記憶するデータ量を増加させることなく、既存のデータとは異なる新しいデータを生成することができる。 By doing so, new data different from existing data can be generated without increasing the amount of data stored in the storage device.
以下、新規信号生成装置１００の処理の流れを説明する。
Hereinafter, the flow of processing of the new
はじめに、ＳＮＮを利用した新規信号生成装置１００の処理について説明する。
First, processing of the new
教師データ学習手段１１０が、教師データを用いてＳＮＮの学習を行う。当該ＳＮＮの学習とは、ＳＮＮを構成する各層のニューロン間の結合重みを調整することによって、ＳＮＮの入力層に入力されるデータと出力層から出力されるデータとが等しくなるようにすることである。
The teacher
教師データ学習手段１１０によりＳＮＮの学習を行った結果、特徴量抽出手段１２０が、学習後ＳＮＮに係る圧縮層の出力として教師データの特徴量を抽出する。
As a result of learning the SNN by the teacher
そして、信号変更手段１３０が、当該教師データの特徴量を変更して学習後ＳＮＮに係る圧縮層の出力とすると、信号生成手段１４０が、当該ＳＮＮに係る出力層から教師データとは異なる新規なデータを出力する。
Then, when the
また、圧縮層ニューロン追加手段１５０が、学習後ＳＮＮに係る圧縮層にニューロンを追加し、信号変更手段１３０が、当該ニューロンからの出力を学習後ＳＮＮに入力して、当該教師データの特徴量を変更する。これに続いて、信号生成手段１４０が、学習後ＳＮＮに係る出力層から教師データとは異なる新規なデータを出力する。
Further, the compression layer neuron addition means 150 adds neurons to the compression layer related to the post-learning SNN, and the signal change means 130 inputs the output from the neuron to the post-learning SNN, and calculates the feature amount of the teacher data change. Following this, the
次に、多重解像度解析を利用した新規信号生成装置１００の処理について説明する。
Next, processing of the new
多重解像度解析手段１６０が、所定のデータに対し多重解像度解析を行って、当該データに係る周波数特徴量を抽出する。
The
そして、特徴量変更手段１７０が、多重解像度解析手段１６０により抽出した当該データに係る周波数特徴量、つまり、変換係数を変更する。
Then, the feature
さらに、信号生成手段１８０が、特徴量変更手段１７０により変更された各変換係数に基づいて多重解像度解析の逆変換を行い、新規なデータを生成する。
Further, the
上記のように、既存データの特徴量を変更して新規データを生成することにより、新たなデータを記憶することなく、新規なデータを生成することができる。 As described above, new data can be generated without storing new data by changing the feature amount of the existing data and generating new data.
（本実施の形態に係る新規信号生成装置のハードウェア構成）
図６を用いて、本実施の形態に係る新規信号生成装置のハードウェア構成について説明する。図６は、本実施の形態に係る新規信号生成装置１００のハードウェア構成の一例を示す図である。
(Hardware configuration of new signal generation apparatus according to this embodiment)
The hardware configuration of the new signal generation device according to the present embodiment will be described with reference to FIG. FIG. 6 is a diagram illustrating an example of a hardware configuration of the new
新規信号生成装置１００は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）２１０、ＲＯＭ（Ｒｅａｄ−Ｏｎｌｙ Ｍｅｍｏｒｙ）２２０、ＲＡＭ（Ｒａｍｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）２３０、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）２４０、外部装置Ｉ／Ｆ（ＩｎｔｅｒＦａｃｅ）２５０、表示装置２６０を有する。
The new
ＣＰＵ２１０は、ＲＯＭ２２０に記憶されたプログラムを実行する装置で、ＲＡＭ２３０に展開（ロード）されたデータを、プログラムの命令に従って演算処理し、新規信号生成装置１００の全体を制御する。
The
ＲＯＭ２２０は、ＣＰＵ２１０が実行するプログラムやデータを記憶している。
The
ＲＡＭ２３０は、ＣＰＵ２１０でＲＯＭ２２０に記憶されたプログラムを実行する際に、実行するプログラムやデータが展開（ロード）され、演算の間、演算データを一時的に保持する。
When the
ＨＤＤ２４０は、基本ソフトウェアであるＯＳ（Ｏｐｅｒａｔｉｎｇ Ｓｙｓｔｅｍ）、本実施の形態に関係するアプリケーションプログラムや機能拡張用のプラグインなどを、関連するデータとともに記憶する装置である。
The
外部装置Ｉ／Ｆ２５０は、新規信号生成装置１００と接続される他の装置とデータの送受信を行うためのインタフェースである。例えば、新規信号生成装置１００は、当該外部装置Ｉ／Ｆ２５０を介して、新規信号生成装置１００によって生成した信号を利用するロボット制御装置やナビゲーション装置等の外部装置とデータの送受信を行う。
The external device I /
表示装置２６０は、ハードキーによるキースイッチとＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）とから構成され、新規信号生成装置１００が有する機能をユーザが利用する際や、各種設定を行う際などのユーザインタフェースとして機能する装置である。
The
本実施の形態に係る新規信号生成装置１００が有する各手段は、ＣＰＵ２１０が、ＲＯＭ２２０又はＨＤＤ２４０に記憶された各手段に対応するプログラムを実行することにより実現される。
Each unit included in the new
（新規信号の生成処理（その１））
図７を用いて、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その１）について説明する。図７は、本実施の形態に係る新規信号生成装置１００における新規信号の生成処理（その１）のフローチャートを示す図である。
(New signal generation processing (part 1))
A new signal generation process (part 1) in the new signal generation apparatus according to the present embodiment will be described with reference to FIG. FIG. 7 is a diagram illustrating a flowchart of a new signal generation process (part 1) in the new
ここでは、ＳＮＮに音声データを記憶させた後、当該音声データの特徴量を変更したデータを学習後ＳＮＮに係る圧縮層の出力とする。そして、当該ＳＮＮに係る出力層から新規なデータを出力させる処理について説明する。 Here, after storing the voice data in the SNN, the data obtained by changing the feature amount of the voice data is set as the output of the compression layer related to the post-learning SNN. Then, a process of outputting new data from the output layer related to the SNN will be described.
Ｓ１で新規信号生成装置１００は処理を開始する。
In S1, the new
Ｓ２で教師データ学習手段１１０が、音声データをＳＮＮに記憶させるために、当該音声データを教師データとしてＳＮＮの学習を行う。当該ＳＮＮの学習は、誤差逆伝搬法を用いて行う。教師データ学習手段１１０による学習を行った結果、図３で示すようなＳＮＮになったものとする。
In S2, the teacher
そして、Ｓ２で特徴量抽出手段１２０が、圧縮層からの出力として、当該音声データの特徴量を抽出する。
In step S2, the feature
例えば、図３に示す圧縮層の各ニューロンの出力は、１つ目のニューロン（第１主成分）がパワー、２つ目のニューロン（第２主成分）がピッチ、３つ目のニューロン（第３主成分）がケプストラムのようになる。 For example, the output of each neuron of the compression layer shown in FIG. 3 is the power of the first neuron (first principal component), the pitch of the second neuron (second principal component), and the third neuron (first component). 3 main components) becomes cepstrum.
Ｓ３で信号変更手段１３０が、特徴量抽出手段１２０により抽出された特徴量を変更し、当該変更したデータを圧縮層の出力としてＳＮＮに入力する。
In S3, the
Ｓ４で信号生成手段１４０が、Ｓ３で入力されたデータに基づき、ＳＮＮの出力層から新規なデータを出力する。
In S4, the
Ｓ５で新規信号生成装置１００は処理を終了する。
In S5, the new
上記のような処理を行うことで、本発明に係る新規信号生成装置１００は、ＳＮＮ（記憶装置）へ新たにデータを記憶させなくとも、新規な信号を生成させることができる。
By performing the processing as described above, the new
（新規信号の生成処理（その２））
図８を用いて、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その２）について説明する。図８は、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その２）のフローチャートを示す図である。
(New signal generation process (2))
A new signal generation process (part 2) in the new signal generation apparatus according to the present embodiment will be described with reference to FIG. FIG. 8 is a diagram illustrating a flowchart of the new signal generation process (part 2) in the new signal generation apparatus according to the present embodiment.
ここでは、ＳＮＮに音声データを記憶させた後、圧縮層にニューロンを新たに追加し、当該追加したニューロンからも学習後ＳＮＮにデータを入力させる。そして、当該ＳＮＮに係る出力層から新規なデータを出力させる処理について説明する。 Here, after the voice data is stored in the SNN, a neuron is newly added to the compression layer, and data is also input to the post-learning SNN from the added neuron. Then, a process of outputting new data from the output layer related to the SNN will be described.
Ｓ１１で新規信号生成装置１００は処理を開始する。
In S11, the new
Ｓ１２で教師データ学習手段１１０が、音声データをＳＮＮに記憶させるために、当該音声データを教師データとしてＳＮＮの学習を行う。当該ＳＮＮの学習は、誤差逆伝搬法を用いて行う。教師データ学習手段１１０による学習を行った結果、図３で示すようなＳＮＮになったものとする。
In S12, the teacher
そして、Ｓ１２で特徴量抽出手段１２０が、圧縮層の出力として、当該音声データの特徴量を抽出する。
In step S12, the feature
例えば、図３に示す圧縮層の各ニューロンの出力は、１つ目のニューロン（第１主成分）がパワー、２つ目のニューロン（第２主成分）がピッチ、３つ目のニューロン（第３主成分）がケプストラムのようになる。 For example, the output of each neuron of the compression layer shown in FIG. 3 is the power of the first neuron (first principal component), the pitch of the second neuron (second principal component), and the third neuron (first component). 3 main components) becomes cepstrum.
Ｓ１３で圧縮層ニューロン追加手段１５０が、圧縮層にニューロンを１つ追加し、図３のＳＮＮは図４で示すようになる。 In S13, the compression layer neuron adding means 150 adds one neuron to the compression layer, and the SNN in FIG. 3 becomes as shown in FIG.
Ｓ１４で信号変更手段１３０が、音声データの特徴量を表す圧縮層からの出力は変更せず、圧縮層ニューロン追加手段１５０により追加されたニューロンからの出力を、当該ニューロンと接続される中間層（２）のニューロンに入力する。
In S14, the
Ｓ１５で信号生成手段１４０が、圧縮層から入力されたデータに基づいて、ＳＮＮの出力層から新規なデータを出力する。
In S15, the
Ｓ１６で新規信号生成装置１００は処理を終了する。
In S16, the new
上記のような処理を行うことで、本発明に係る新規信号生成装置１００は、ＳＮＮ（記憶装置）へ新たにデータを記憶させなくとも、新規なデータを生成させることができる。
By performing the processing as described above, the new
（新規信号の生成処理（その３））
図９を用いて、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その３）について説明する。図９は、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その３）のフローチャートを示す図である。
(New signal generation process (part 3))
A new signal generation process (part 3) in the new signal generation apparatus according to the present embodiment will be described with reference to FIG. FIG. 9 is a diagram illustrating a flowchart of the new signal generation process (part 3) in the new signal generation apparatus according to the present embodiment.
ここでは、ＳＮＮに音声データを記憶させた後、圧縮層にニューロンを新たに追加し、当該追加したニューロンに関係する部分のみ新たな教師データを用いてＳＮＮの再学習を行う。その後、当該追加したニューロンからも学習後ＳＮＮにデータを入力させ、当該ＳＮＮに係る出力層から新規なデータを出力させる処理について説明する。 Here, after the voice data is stored in the SNN, a neuron is newly added to the compression layer, and the SNN is re-learned using new teacher data only for the portion related to the added neuron. Thereafter, a process of inputting data from the added neuron to the learned SNN and outputting new data from the output layer related to the SNN will be described.
Ｓ２１で新規信号生成装置１００は処理を開始する。
In S21, the new
Ｓ２２で教師データ学習手段１１０が、音声データをＳＮＮに記憶させるために、当該音声データを教師データとしてＳＮＮの学習を行う。当該ＳＮＮの学習は、誤差逆伝搬法を用いて行う。教師データ学習手段１１０による学習を行った結果、図３で示すようなＳＮＮになったものとする。
In S22, the teacher
そして、Ｓ２２で特徴量抽出手段１２０が、圧縮層の出力として、当該音声データの特徴量を抽出する。
In step S22, the feature
例えば、図３に示す圧縮層の各ニューロンの出力は、１つ目のニューロン（第１主成分）がパワー、２つ目のニューロン（第２主成分）がピッチ、３つ目のニューロン（第３主成分）がケプストラムのようになる。 For example, the output of each neuron of the compression layer shown in FIG. 3 is the power of the first neuron (first principal component), the pitch of the second neuron (second principal component), and the third neuron (first component). 3 main components) becomes cepstrum.
Ｓ２３で圧縮層ニューロン追加手段１５０が、圧縮層にニューロンを１つ追加し、図３のＳＮＮは図４で示すようになる。 In S23, the compression layer neuron adding means 150 adds one neuron to the compression layer, and the SNN in FIG. 3 becomes as shown in FIG.
Ｓ２４で教師データ学習手段１１０が、圧縮層ニューロン追加手段１５０により追加されたニューロンとこれに接続される中間層（２）を構成するニューロンに関する結合重みについてのみ新たな教師データを用いてＳＮＮの学習を行う。
In S24, the teacher
例えば、当初の教師データが「平静状態」の音声データであった場合に、当該追加されたニューロンからの付加入力によって、「怒り」を表現する新しい音声データをＳＮＮに再学習させる。 For example, when the initial teacher data is speech data in a “quiet state”, the SNN is caused to re-learn new speech data expressing “anger” by the additional input from the added neuron.
Ｓ２５で信号変更手段１３０が、圧縮層の出力として、当初の学習後ＳＮＮに記憶させた音声データの特徴量と異なるデータを入力する。
In S <b> 25, the
Ｓ２６で信号生成手段１４０が、圧縮層から入力されたデータに基づき、学習後ＳＮＮに係る出力層から新規なデータを出力する。
In S26, the
Ｓ２７で新規信号生成装置１００は処理を終了する。
In S27, the new
圧縮層の特徴量を直接変更する方法は、特徴量（主成分）が表現している情報（例えば、パワー、ピッチ、ケプストラム等）を直接操作することはできるが、「怒り」を表現するにはどの特徴量成分を変更させれば良いのか特定は困難である。 The method of directly changing the feature value of the compressed layer can directly manipulate the information (for example, power, pitch, cepstrum, etc.) expressed by the feature value (principal component), but expresses “anger”. It is difficult to specify which feature quantity component should be changed.
この様な処理によれば、当処理における「怒り」入力ニューロンのように、追加したニューロンに対応させて、新しく生成するデータに意味付けをすることができる。 According to such processing, it is possible to give meaning to newly generated data corresponding to the added neuron like the “angry” input neuron in this processing.
（新規信号の生成処理（その４））
図１０を用いて、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その４）について説明する。図１０は、本実施の形態に係る新規信号生成装置における新規信号の生成処理（その４）のフローチャートを示す図である。
(New signal generation process (4))
A new signal generation process (part 4) in the new signal generation apparatus according to the present embodiment will be described with reference to FIG. FIG. 10 is a diagram illustrating a flowchart of the new signal generation process (part 4) in the new signal generation apparatus according to the present embodiment.
ここでは、ＳＮＮに画像データを記憶させた後、当該画像データに対し離散フーリエ変換を行い、当該画像データの周波数特徴量を変換係数として抽出する。その後、当該変換係数を変更して、当該変更した変換係数に対して逆フーリエ変換を行うことにより新規なデータを出力させる処理について説明する。 Here, after the image data is stored in the SNN, discrete Fourier transform is performed on the image data, and the frequency feature amount of the image data is extracted as a conversion coefficient. Then, the process which changes the said conversion coefficient and outputs new data by performing an inverse Fourier transform with respect to the said changed conversion coefficient is demonstrated.
Ｓ３１で新規信号生成装置１００は処理を開始する。
In S31, the new
Ｓ３２で多重解像度解析手段１６０が、画像データに対して離散フーリエ変換を行い、当該画像に対するフーリエ係数を生成する。 In S32, the multiresolution analysis means 160 performs discrete Fourier transform on the image data, and generates a Fourier coefficient for the image.
Ｓ３３で特徴量変更手段１７０が、上記フーリエ係数を一部又は全部を変更し、新規なフーリエ係数を生成する。
In S33, the feature
Ｓ３４で信号生成手段１８０が、上記変更されたフーリエ係数に対し、逆フーリエ変換を行い、Ｓ３５で信号生成手段１８０が、上記画像データとは異なる新規な画像データを生成する。
In S34, the
Ｓ３６で新規信号生成装置１００は処理を終了する。
In S36, the new
上記のような処理によって、本発明に係る新規信号生成装置１００は、記憶装置へ新たにデータを記憶させなくとも、新規なデータを生成させることができる。
Through the processing as described above, the new
（総括）
以上より、本発明では少ない記憶容量で多数の信号パターンを出力させることができる新規信号生成装置を提供することができる。
(Summary)
As described above, the present invention can provide a new signal generation apparatus capable of outputting a large number of signal patterns with a small storage capacity.
以上、本発明の実施の形態について詳述したが、本発明は係る特定の実施の形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲において、種々の変形・変更が可能である。 Although the embodiment of the present invention has been described in detail above, the present invention is not limited to the specific embodiment, and various modifications are possible within the scope of the gist of the present invention described in the claims.・ Change is possible.
１００ 新規信号生成装置
１１０ 教師データ学習手段
１２０ 特徴量抽出手段
１３０ 信号変更手段
１４０ 信号生成手段
１５０ 圧縮層ニューロン追加手段
１６０ 多重解像度解析手段
１７０ 特徴量変更手段
１８０ 信号生成手段
２１０ ＣＰＵ
２２０ ＲＯＭ
２３０ ＲＡＭ
２４０ ＨＤＤ
２５０ 外部装置Ｉ／Ｆ
２６０ 表示装置
100 New
220 ROM
230 RAM
240 HDD
250 External device I / F
260 Display device
Claims (10)
前記入力層に入力される教師データと前記出力層から出力される当該教師データとが等しくなるような前記砂時計型ニューラルネットワークの学習を行った結果、前記教師データに関する特徴量を前記中間層の一部を構成する圧縮層からの出力として抽出する特徴量抽出手段と、
前記特徴量抽出手段により抽出された前記特徴量を変更したデータを、前記圧縮層からの出力とする信号変更手段と、
前記信号変更手段により変更された前記データに基づき、前記出力層からデータを出力する信号生成手段と、を有することを特徴とする新規信号生成装置。 Regarding an hourglass neural network composed of an input layer, an intermediate layer, and an output layer, a new signal generation device that outputs data from the output layer based on data input to the hourglass neural network,
As a result of learning of the hourglass neural network so that the teacher data input to the input layer and the teacher data output from the output layer are equal, the feature amount related to the teacher data is determined as one of the intermediate layers. Feature amount extraction means for extracting as an output from the compression layer constituting the unit;
Signal changing means for outputting the data obtained by changing the feature quantity extracted by the feature quantity extracting means from the compression layer;
A new signal generation device comprising: signal generation means for outputting data from the output layer based on the data changed by the signal change means.
前記多重解像度解析を行って得られた前記データに関する周波数特徴量を変更する特徴量変更手段と、
前記特徴量変更手段により変更された前記周波数特徴量に基づいて、前記多重解像度解析の逆変換をすることによってデータを生成する信号生成手段と、を有することを特徴とする新規信号生成装置。 A new signal generation device that generates the data based on a frequency feature amount related to the data obtained by performing multi-resolution analysis on predetermined data,
A feature amount changing means for changing a frequency feature amount related to the data obtained by performing the multi-resolution analysis;
A new signal generation apparatus comprising: signal generation means for generating data by performing inverse transformation of the multi-resolution analysis based on the frequency feature quantity changed by the feature quantity change means.
前記入力層に入力される教師データと前記出力層から出力される当該教師データとが等しくなるような前記砂時計型ニューラルネットワークの学習を行った結果、前記教師データに関する特徴量を前記中間層の一部を構成する圧縮層からの出力として抽出する特徴量抽出手順と、
前記特徴量抽出手順により抽出された前記特徴量を変更したデータを、前記圧縮層からの出力とする信号変更手順と、
前記信号変更手順により変更された前記データに基づき、前記出力層からデータを出力する信号生成手順と、を有することを特徴とする新規信号生成方法。 A new signal generation method for a new signal generation device that outputs data from the output layer based on data input to the hourglass neural network, with respect to an hourglass neural network including an input layer, an intermediate layer, and an output layer There,
As a result of learning of the hourglass neural network in which the teacher data input to the input layer and the teacher data output from the output layer are equal, a feature amount related to the teacher data is obtained from one of the intermediate layers. A feature amount extraction procedure to be extracted as an output from the compression layer constituting the part;
A signal change procedure for outputting the data obtained by changing the feature value extracted by the feature value extraction procedure from the compression layer;
A signal generation procedure for outputting data from the output layer based on the data changed by the signal change procedure.
前記多重解像度解析を行って得られた前記データに関する周波数特徴量を変更する特徴量変更手順と、
前記特徴量変更手順により変更された前記周波数特徴量に基づいて、前記多重解像度解析の逆変換をすることによってデータを生成する信号生成手順と、を有することを特徴とする新規信号生成方法。 A new signal generation method for a new signal generation device that generates the data based on a frequency feature amount related to the data obtained by performing multi-resolution analysis on predetermined data,
A feature amount changing procedure for changing a frequency feature amount related to the data obtained by performing the multi-resolution analysis;
And a signal generation procedure for generating data by performing an inverse transform of the multi-resolution analysis based on the frequency feature quantity changed by the feature quantity change procedure.
The new signal generation method according to claim 8, wherein the multi-resolution analysis performs wavelet analysis on the predetermined data.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008064814A JP2009223437A (en) | 2008-03-13 | 2008-03-13 | New signal generation device and new signal generation method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008064814A JP2009223437A (en) | 2008-03-13 | 2008-03-13 | New signal generation device and new signal generation method |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2009223437A true JP2009223437A (en) | 2009-10-01 |
Family
ID=41240179
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2008064814A Pending JP2009223437A (en) | 2008-03-13 | 2008-03-13 | New signal generation device and new signal generation method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2009223437A (en) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017125809A (en) * | 2016-01-15 | 2017-07-20 | 株式会社リコー | Information processing apparatus, information processing system, and program |
| JP2020177333A (en) * | 2019-04-16 | 2020-10-29 | キヤノンメディカルシステムズ株式会社 | Medical information processing system and medical information processing apparatus |
| JP2021521476A (en) * | 2018-04-11 | 2021-08-26 | ドルビー ラボラトリーズ ライセンシング コーポレイション | Perceptual loss function for machine learning-based speech coding and decoding |
-
2008
- 2008-03-13 JP JP2008064814A patent/JP2009223437A/en active Pending
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017125809A (en) * | 2016-01-15 | 2017-07-20 | 株式会社リコー | Information processing apparatus, information processing system, and program |
| JP2021521476A (en) * | 2018-04-11 | 2021-08-26 | ドルビー ラボラトリーズ ライセンシング コーポレイション | Perceptual loss function for machine learning-based speech coding and decoding |
| JP7387634B2 (en) | 2018-04-11 | 2023-11-28 | ドルビー ラボラトリーズ ライセンシング コーポレイション | Perceptual loss function for speech encoding and decoding based on machine learning |
| JP2020177333A (en) * | 2019-04-16 | 2020-10-29 | キヤノンメディカルシステムズ株式会社 | Medical information processing system and medical information processing apparatus |
| JP7309429B2 (en) | 2019-04-16 | 2023-07-18 | キヤノンメディカルシステムズ株式会社 | Medical information processing system and medical information processing device |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7009564B2 (en) | End-to-end text-to-speech conversion | |
| US11869530B2 (en) | Generating audio using neural networks | |
| CN112106081A (en) | Application development platform and software development suite for providing comprehensive machine learning service | |
| KR20190042055A (en) | Sequence processing using convolutional neural networks | |
| US20210151014A1 (en) | Information processing device for musical score data | |
| JP6906181B2 (en) | Information processing device, information processing method of time series data, and program | |
| CN114424208A (en) | Gated attention neural network | |
| CN114186609A (en) | Model training method and device | |
| JP2009223437A (en) | New signal generation device and new signal generation method | |
| Guidotti et al. | Never 2.0: Learning, verification and repair of deep neural networks | |
| WO2021095512A1 (en) | Machine learning device, information processing method, and recording medium | |
| WO2020054402A1 (en) | Neural network processing device, computer program, neural network manufacturing method, neural network data manufacturing method, neural network use device, and neural network downscaling method | |
| JP2009043122A (en) | Data processing apparatus, data processing method, and program | |
| RU2803488C2 (en) | Method and server for waveform generation | |
| JP2008293259A (en) | Data processor, data processing method and program | |
| WO2021106961A1 (en) | Image generation device | |
| Lin | Efficient Deep Learning Computing: From TinyML to LargeLM | |
| KR20240109766A (en) | Machine learning based apparatus and method for processing multimodal data | |
| CN115730647A (en) | NPU data arrangement graph optimization method and device, electronic equipment and storage medium |