WO2023047562A1 - 学習装置、学習方法、及び、記録媒体 - Google Patents
学習装置、学習方法、及び、記録媒体 Download PDFInfo
- Publication number
- WO2023047562A1 WO2023047562A1 PCT/JP2021/035277 JP2021035277W WO2023047562A1 WO 2023047562 A1 WO2023047562 A1 WO 2023047562A1 JP 2021035277 W JP2021035277 W JP 2021035277W WO 2023047562 A1 WO2023047562 A1 WO 2023047562A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- function
- class
- sum
- training data
- score
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 14
- 230000006870 function Effects 0.000 claims abstract description 128
- 238000004364 calculation method Methods 0.000 claims abstract description 54
- 230000007423 decrease Effects 0.000 claims description 2
- 238000005457 optimization Methods 0.000 abstract description 4
- 238000010606 normalization Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 4
- 238000013136 deep learning model Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Definitions
- This disclosure relates to a learning method for a machine learning model.
- Patent Literature 1 discloses a method of updating weight parameters of a neural network using a cost function obtained by adding a regularization term to an error function.
- One purpose of the present disclosure is to adaptively control the strength of regularization according to training data in deep learning.
- a learning device includes: an inference means for inferring training data using an inference model and outputting a class score; a weight calculation means for calculating a weight from the output class score using a weight function that increases more rapidly than linearly when the class score is too high or too low; weight sum calculation means for calculating the sum of the weights over a mini-batch containing a predetermined number of training data; a regularization term calculation means for applying a rescaling function, which is a monotonically increasing function that increases more slowly than linearly, to the sum to calculate a regularization term; optimizing means for optimizing the inference model using the total loss including the regularization term; Prepare.
- a learning method comprises: Perform inference on the training data using the inference model, output the class score, Calculate a weight from the output class score using a weighting function that increases more rapidly than linearly when the class score is too high or too low; calculating the sum of the weights over a mini-batch containing a predetermined number of training data; applying a rescaling function, which is a monotonically increasing function that increases more slowly than linearly, to the sum to calculate a regularization term; The total loss including the regularization term is used to optimize the inference model.
- the recording medium comprises Perform inference on the training data using the inference model, output the class score, Calculate a weight from the output class score using a weighting function that increases more rapidly than linearly when the class score is too high or too low; calculating the sum of the weights over a mini-batch containing a predetermined number of training data; applying a rescaling function, which is a monotonically increasing function that increases more slowly than linearly, to the sum to calculate a regularization term;
- a program is recorded that causes a computer to perform a process of optimizing the inference model using the total loss including the regularization term.
- FIG. 2 is a block diagram showing the hardware configuration of the learning device of the first embodiment;
- FIG. 2 is a block diagram showing the functional configuration of the learning device of the first embodiment;
- FIG. Examples of weighting and rescaling functions are shown.
- 4 is a flowchart of learning processing by the learning device of the first embodiment;
- FIG. 11 is a block diagram showing the functional configuration of a learning device according to a second embodiment;
- FIG. 9 is a flowchart of learning processing by the learning device of the second embodiment;
- FIG. 1 is a block diagram showing the hardware configuration of the learning device 100 of the first embodiment.
- the learning device 100 includes an interface (I/F) 11 , a processor 12 , a memory 13 , a recording medium 14 and a database (DB) 15 .
- the interface 11 performs data input/output with an external device. Specifically, a training data set used for learning is input to the learning device 100 through the interface 11 .
- the processor 12 is a computer such as a CPU (Central Processing Unit), and controls the entire study device 100 by executing a program prepared in advance.
- the processor 12 may be a GPU (Graphics Processing Unit) or an FPGA (Field-Programmable Gate Array).
- the processor 12 executes learning processing, which will be described later.
- the memory 13 is composed of ROM (Read Only Memory), RAM (Random Access Memory), and the like. Memory 13 is also used as a working memory during execution of various processes by processor 12 .
- the recording medium 14 is a non-volatile, non-temporary recording medium such as a disk-shaped recording medium or semiconductor memory, and is configured to be detachable from the learning device 100 .
- the recording medium 14 records various programs executed by the processor 12 .
- DB15 memorize
- FIG. 2 is a block diagram showing the functional configuration of the learning device 100 of the first embodiment.
- the learning device 100 includes an inference unit 21, a loss function calculation unit 22, a summation calculation unit 23, a weight function calculation unit 24, a weight summation calculation unit 25, a rescaling function calculation unit 26, a parameter update unit 27, Prepare.
- a training data set is input to the learning device 100 .
- the training data set includes a plurality of training data x i and a correct class y i corresponding to each training data x i .
- the training data x i is input to the inference section 21 and the correct class y i is input to the loss function calculation section 22 .
- the inference unit 21 performs inference using a deep learning model to be learned by the learning device 100 .
- the inference unit 21 includes a neural network that configures a deep learning model to be learned.
- the inference unit 21 performs inference on the input training data x i and outputs a class score v ⁇ i as an inference result.
- the inference unit 21 performs class classification on the training data x i and outputs a class score v ⁇ i , which is a vector indicating the reliability score for each class. In this specification, " ⁇ " indicating a vector is superscripted to the right of "v" for convenience.
- the class score v ⁇ i is input to the loss function calculator 22 and the weight function calculator 24 .
- the loss function calculator 22 uses a loss function prepared in advance to calculate the loss l cls,i for the class score v ⁇ i . Specifically , the loss function calculator 22 calculates the loss l cls ,i is calculated. The calculated loss l cls,i is input to the summation calculator 23 .
- the weight function calculator 24 calculates the weight for the training data x i based on the class score v ⁇ i generated by the inference unit 21 . Specifically, the weight function calculator 24 determines a weight wi , which is a single real value, from the class score v ⁇ i , which is the inference result for the training data x i , according to the following equation (2).
- weighting function a function is selected that rapidly increases when the reliability score of each class included in the class score v ⁇ i is too high or too low.
- rapid is meant faster than linear.
- the condition that the weighting function grows rapidly is necessary to emphasize over- or under-confidence scores contained in the class scores v ⁇ i . That is, by computing the weights using a rapidly growing function, if the class scores v ⁇ i contain over- or under-confidence score values, those over- or undervalues are emphasized and the weights wi are a larger value.
- the choice of weighting function determines the contribution of each training data weight to the gradient of the regularization term described below.
- the weight function calculation unit 24 simply outputs the result of inputting the reliability score of each class included in the class score v ⁇ i to the weight function, so that the value of the weight w i that is output is particularly normalized. not the value.
- the weight function calculator 24 outputs the calculated weights wi to the weight sum calculator 25 .
- the weight sum calculation unit 25 calculates the sum of weights wi for mini batches.
- a mini-batch is a set of a predetermined number (eg, N) of training data.
- the weight sum calculation unit 25 calculates the sum S of N weights w i corresponding to N training data x i according to the following equation (3).
- the weighted summation calculator 25 outputs the calculated summation S to the rescaling function calculator 26 .
- the rescaling function calculator 26 calculates a rescaling function based on the input summation S to generate a normalization term L reg . Specifically, the rescaling function calculator 26 generates the normalization term L reg by the following equation (4).
- Equation (4) "g(S)" is a rescaling function.
- a slowly increasing monotonically increasing function is selected as the rescaling function g(S). Note that this slowly increasing monotonically increasing function is different from the mathematical "slowly increasing function”.
- grade means slower than linear.
- the condition that the rescaling function g(S) is gradual is necessary to suppress the increase in the gradient of the regularization term due to the rapidly increasing weight function, resulting in learning instability.
- the rescaling function g(S) is used to Adjusting the overall scale.
- the rescaling function g(S) can be regarded as normalizing the weights wi and adjusting the strength of the overall regularization.
- the rescaling function calculator 26 outputs the normalization term L reg thus obtained to the summation calculator 23 .
- the total sum calculation unit 23 sums the loss l cls,i input from the loss function calculation unit 22 and the normalization term L reg input from the rescaling function calculation unit 26 (hereinafter also referred to as "total loss L". ). Specifically, the total sum calculation unit 23 adds the sum of the loss l cls,i and the normalization term L reg for the number i of training data, using the following equation (5), and calculates the number of training data included in the mini-batch. Calculate the total loss L by dividing by N.
- the summation calculator 23 outputs the obtained total loss L to the parameter updater 27 .
- the parameter updating unit 27 optimizes the inference unit 21 based on the input total loss L. Specifically, based on the total loss L, the parameter updating unit 27 updates the parameters of the neural network that constitutes the inference unit 21 . In this way, learning of the deep learning model that constitutes the inference unit 21 is performed.
- the degree of contribution of each training data to the regularization term can be adaptively determined by calculating the regularization term in mini-batch units.
- the learning device 100 emphasizes the overfitting or underfitting results output by the inference unit 21 using a weighting function, thereby strengthening regularization for simple training data to prevent overfitting.
- the learning device 100 adjusts the overall scale of the weights using the rescaling function, normalizes the partially emphasized weights using the weighting function, and adjusts the strength of the overall regularization. can be done. As a result, it is possible to adaptively determine the strength of regularization according to the training data and obtain higher generalization performance, that is, higher classification accuracy.
- the inference unit 21 is an example of inference means
- the loss function calculation unit 22 is an example of loss calculation means
- the weight function calculation unit 24 is an example of weight calculation means
- the weight sum calculation unit 25 is
- the rescaling function calculation unit 26 is an example of regularization term calculation means
- the parameter updating unit 27 is an example of optimization means.
- FIG. 3 shows examples of weighting and rescaling functions.
- the weighting function is a function that sums the squares of the confidence scores v ic of each class included in the class score v ⁇ i over the total number of classes c.
- the rescaling function is a function for calculating the square root of the sum total S output by the weight sum calculation section 25 .
- the weighting function is a function that sums the natural logarithm of the square of the confidence score v ic of each class included in the class score v ⁇ i over all the number of classes c.
- the rescaling function is a function for calculating the logarithm of the sum total S output by the weight sum calculation section 25 .
- the weighting function is a function that sums the natural logarithms of the positive and negative confidence scores v ic of each class included in the class score v ⁇ i over the total number of classes c.
- the rescaling function is a function for calculating the logarithm of the sum total S output by the weight sum calculation section 25 .
- FIG. 4 is a flow chart of learning processing by the learning device 100 . This processing is realized by executing a program prepared in advance by the processor 12 shown in FIG. 1 and operating as each element shown in FIG.
- the inference unit 21 makes an inference with respect to the input training data x i (step S11).
- the inference unit 21 outputs the class score v ⁇ i obtained by inference to the loss function calculation unit 22 and the weight function calculation unit 24 .
- the loss function calculator 22 calculates the loss l cls,i using Equation (1) based on the class score v ⁇ i , and outputs it to the total sum calculator 23 (step S12).
- the weight function calculator 24 calculates the weight wi using the equation (2) based on the class score v ⁇ i , and outputs it to the weight sum calculator 25 (step S13).
- the weight sum calculation unit 25 calculates the sum S of the weights wi for each mini-batch according to Equation (3), and outputs it to the rescaling function calculation unit 26 (step S14).
- the rescaling function calculation unit 26 uses the rescaling function to calculate the normalization term L reg from the input sum S, and outputs it to the sum calculation unit 23 (step S15). Note that the processing of step S12 and steps S13 to S15 may be performed in the reverse order, or may be performed in parallel in terms of time.
- the summation calculation unit 23 uses Equation (5) based on the loss l cls,i input from the loss function calculation unit 22 and the normalization term L reg input from the rescaling function calculation unit 26.
- a sum of losses (total loss L) is calculated and output to the parameter updating unit 27 (step S16).
- the parameter updating unit 27 updates the parameters of the neural network that constitutes the inference unit 21 based on the total loss (total loss L) (step S17).
- step S18 it is determined whether or not the learning end condition is met.
- a termination requirement for example, it is possible to use the fact that all the training data has been used, or the fact that the accuracy of the inference unit 21 has reached a predetermined accuracy. If the termination condition is not satisfied (step S18: No), the process returns to step S11, and steps S11 to S17 are performed using the next training data. On the other hand, if the end condition is satisfied (step S18: Yes), the learning process ends.
- FIG. 5 is a block diagram showing the functional configuration of the learning device of the second embodiment.
- Learning device 200 includes inference means 201 , weight calculation means 202 , weight sum calculation means 203 , regularization term calculation means 204 , and optimization means 205 .
- FIG. 6 is a flowchart of learning processing by the learning device 200 of the second embodiment.
- the inference means 201 infers the training data and outputs a class score (step S21).
- the weight calculation means 202 calculates weights from the class scores output by the inference means 201 using a weight function that increases more rapidly than linearly when the class scores are too high or too low (step S22).
- the weight sum calculation means 203 calculates the sum of weights over a mini-batch containing a predetermined number of training data (step S23).
- the regularization term calculation means 204 applies a rescaling function, which is a monotonically increasing function that increases more slowly than linear, to the sum to calculate a regularization term (step S24).
- the optimization means 205 optimizes the inference means using the loss including the regularization term (step S25).
- the learning device 200 of the second embodiment in deep learning, it is possible to adaptively control the strength of regularization according to the training data.
- Appendix 1 an inference means for inferring training data using an inference model and outputting a class score; a weight calculation means for calculating a weight from the output class score using a weight function that increases more rapidly than linearly when the class score is too high or too low; weight sum calculation means for calculating the sum of the weights over a mini-batch containing a predetermined number of training data; a regularization term calculation means for applying a rescaling function, which is a monotonically increasing function that increases more slowly than linearly, to the sum to calculate a regularization term; optimizing means for optimizing the inference model using the total loss including the regularization term;
- a learning device with
- (Appendix 3) loss calculation means for calculating a loss based on the class score and the correct class corresponding to the training data; 3.
- the class score includes a confidence score for each class on one training data;
- the weighting function is a function that sums the squares of the confidence scores of each class over all classes; 4.
- the learning device according to any one of Appendices 1 to 3, wherein the rescaling function is a function for calculating the square root of the sum.
- the class score includes a confidence score for each class on one training data;
- the weighting function is a function that sums the natural logarithm of the square of the confidence score of each class over all classes, 4.
- the learning device according to any one of appendices 1 to 3, wherein the rescaling function is a function for calculating the logarithm of the sum.
- the class score includes a confidence score for each class on one training data;
- the weighting function is a function that sums the natural logarithms of the confidence scores of each class over all classes; 4.
- the rescaling function is a function for calculating the logarithm of the sum.
- (Appendix 8) Perform inference on the training data using the inference model, output the class score, Calculate a weight from the output class score using a weighting function that increases more rapidly than linearly when the class score is too high or too low; calculating the sum of the weights over a mini-batch containing a predetermined number of training data; applying a rescaling function, which is a monotonically increasing function that increases more slowly than linearly, to the sum to calculate a regularization term;
- a recording medium recording a program for causing a computer to execute a process of optimizing the inference model using the total loss including the regularization term.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
学習装置において、推論手段は、推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する。重み計算手段は、出力されたクラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する。重み総和計算手段は、所定数の訓練データを含むミニバッチにわたって重みの総和を計算する。正則化項計算手段は、線形より緩やかに増大する単調増加関数であるリスケール関数を総和に適用して、正則化項を計算する。最適化手段は、正則化項を含む総損失を用いて、推論モデルを最適化する。
Description
本開示は、機械学習モデルの学習方法に関する。
深層学習などの大規模な機械学習モデルを学習する際、過学習を抑制するために正則化を行うことが知られている。例えば、特許文献1は、誤差関数に正則化項を加えたコスト関数を用いて、ニューラルネットワークの重みパラメータを更新する手法を開示している。
従来の手法では、全ての訓練データに対して一様に正則化を行っていた。このため、予測の簡単な訓練データに対して正則化が弱くなって過適合が生じたり、予測の難しい訓練データに対して正則化が強くなって学習の効率が低下したりすることがあった。
本開示の1つの目的は、深層学習において、訓練データに応じて正則化の強度を適応的に制御することにある。
本開示の一つの観点では、学習装置は、
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する推論手段と、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する重み計算手段と、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算する重み総和計算手段と、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算する正則化項計算手段と、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する最適化手段と、
を備える。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する推論手段と、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する重み計算手段と、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算する重み総和計算手段と、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算する正則化項計算手段と、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する最適化手段と、
を備える。
本開示の他の観点では、学習方法は、
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する。
本開示のさらに他の観点では、記録媒体は、
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する処理をコンピュータに実行させるプログラムを記録する。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する処理をコンピュータに実行させるプログラムを記録する。
本開示によれば、深層学習において、訓練データに応じて正則化の強度を適応的に制御することが可能となる。
以下、図面を参照して、本開示の好適な実施形態について説明する。
<第1実施形態>
[学習装置]
(ハードウェア構成)
図1は、第1実施形態の学習装置100のハードウェア構成を示すブロック図である。図示のように、学習装置100は、インタフェース(I/F)11と、プロセッサ12と、メモリ13と、記録媒体14と、データベース(DB)15と、を備える。
<第1実施形態>
[学習装置]
(ハードウェア構成)
図1は、第1実施形態の学習装置100のハードウェア構成を示すブロック図である。図示のように、学習装置100は、インタフェース(I/F)11と、プロセッサ12と、メモリ13と、記録媒体14と、データベース(DB)15と、を備える。
インタフェース11は、外部装置との間でデータの入出力を行う。具体的に、学習に使用される訓練データセットは、インタフェース11を通じて学習装置100に入力される。
プロセッサ12は、CPU(Central Processing Unit)などのコンピュータであり、予め用意されたプログラムを実行することにより学習装置100の全体を制御する。なお、プロセッサ12は、GPU(Graphics Processing Unit)またはFPGA(Field-Programmable Gate Array)であってもよい。プロセッサ12は、後述する学習処理を実行する。
メモリ13は、ROM(Read Only Memory)、RAM(Random Access Memory)などにより構成される。メモリ13は、プロセッサ12による各種の処理の実行中に作業メモリとしても使用される。
記録媒体14は、ディスク状記録媒体、半導体メモリなどの不揮発性で非一時的な記録媒体であり、学習装置100に対して着脱可能に構成される。記録媒体14は、プロセッサ12が実行する各種のプログラムを記録している。学習装置100が各種の処理を実行する際には、記録媒体14に記録されているプログラムがメモリ13にロードされ、プロセッサ12により実行される。DB15は、必要に応じて、I/F11を通じて入力された訓練データセットを記憶する。
(機能構成)
図2は、第1実施形態の学習装置100の機能構成を示すブロック図である。学習装置100は、推論部21と、損失関数計算部22と、総和計算部23と、重み関数計算部24と、重み総和計算部25と、リスケール関数計算部26と、パラメータ更新部27と、を備える。
図2は、第1実施形態の学習装置100の機能構成を示すブロック図である。学習装置100は、推論部21と、損失関数計算部22と、総和計算部23と、重み関数計算部24と、重み総和計算部25と、リスケール関数計算部26と、パラメータ更新部27と、を備える。
学習装置100には、訓練データセットが入力される。訓練データセットは、複数の訓練データxiと、各訓練データxiに対応する正解クラスyiとを含む。訓練データxiは推論部21に入力され、正解クラスyiは損失関数計算部22へ入力される。
推論部21は、学習装置100による学習の対象となる深層学習モデルを用いて推論を行う。具体的には、推論部21は、学習の対象となる深層学習モデルを構成するニューラルネットワークを備える。推論部21は、入力された訓練データxiに対する推論を行い、推論結果としてクラススコアv→
iを出力する。詳細には、推論部21は、訓練データxiに対するクラス分類を行い、クラス毎の信頼度スコアを示すベクトルであるクラススコアv→
iを出力する。なお、本明細書では、便宜上ベクトルを示す「→」を、「v」の右側に上付きで表記する。クラススコアv→
iは、損失関数計算部22及び重み関数計算部24へ入力される。
損失関数計算部22は、予め用意された損失関数を用いて、クラススコアv→
iに対する損失lcls,iを計算する。具体的に、損失関数計算部22は、ある訓練データxiに対するクラススコアv→
iと、その訓練データxiに対する正解クラスyiとを用いて、式(1)に示すように損失lcls,iを計算する。計算された損失lcls,iは、総和計算部23へ入力される。
一方、重み関数計算部24は、推論部21が生成したクラススコアv→
iに基づいて、訓練データxiに対する重みを計算する。具体的に、重み関数計算部24は、訓練データxiに対する推論結果であるクラススコアv→
iから、以下の式(2)により、単一の実数値である重みwiを決定する。
重み関数としては、クラススコアv→
iに含まれる各クラスの信頼度スコアが過大または過少なときに急速に増大する関数が選ばれる。「急速に」とは、線形より早く、という意味である。重み関数の増大が急速であるという条件は、クラススコアv→
iに含まれる過大または過小な信頼度スコアを強調するために必要となる。即ち、急速に増大する関数を用いて重みを計算することにより、クラススコアv→
iが過大または過小な信頼度スコアの値を含む場合、それら過大または過小な値が強調され、重みwiはより大きな値となる。これにより、重み関数の選択が、後述する正則化項の勾配に対する各訓練データの重みの寄与度を決定することになる。なお、重み関数計算部24は、単にクラススコアv→
iに含まれる各クラスの信頼度スコアを重み関数に入力した結果を出力するため、出力される重みwiの値は特に正規化された値ではない。重み関数計算部24は、計算した重みwiを重み総和計算部25へ出力する。
重み総和計算部25は、重みwiのミニバッチ分の総和を計算する。ミニバッチとは、所定数(例えばN個)の訓練データの集合である。具体的に、重み総和計算部25は、下記の式(3)により、N個の訓練データxiに対応するN個の重みwiの総和Sを計算する。
重み総和計算部25は、計算した総和Sをリスケール関数計算部26へ出力する。
リスケール関数計算部26は、入力された総和Sに基づき、リスケール関数の計算を行って正規化項Lregを生成する。具体的に、リスケール関数計算部26は、以下の式(4)により、正規化項Lregを生成する。
式(4)において、「g(S)」はリスケール関数である。リスケール関数g(S)としては、緩やかに増大する単調増加関数が選ばれる。なお、この緩やかに増大する単調増加関数は、数学的な「緩増加関数」とは異なる。
ここで、「緩やかに」とは、線形より遅く、という意味である。リスケール関数g(S)が緩やかであるという条件は、急速に増大する重み関数によって正則化項の勾配が増大し、その結果、学習が不安定になることを抑制するために必要となる。言い換えると、重み関数により過大または過小な信頼度スコアが強調された重みwiをそのまま使うと正則化が強すぎてしまう恐れがあるため、リスケール関数g(S)を用いて、重みwiの全体のスケールを調整している。この点、リスケール関数g(S)は、重みwiを正規化し、全体の正則化の強さを調整していると捉えることもできる。リスケール関数計算部26は、こうして得られた正規化項Lregを総和計算部23へ出力する。
総和計算部23は、損失関数計算部22から入力される損失lcls,iと、リスケール関数計算部26から入力される正規化項Lregとの総和(以下、「総損失L」とも呼ぶ。)を計算する。具体的に、総和計算部23は、下記の式(5)により、損失lcls,iと正規化項Lregの和を訓練データ数i個分加算した値を、ミニバッチに含まれる訓練データ数Nで除して総損失Lを計算する。
そして、総和計算部23は、得られた総損失Lをパラメータ更新部27へ出力する。
パラメータ更新部27は、入力された総損失Lに基づいて推論部21を最適化する。具体的には、パラメータ更新部27は、総損失Lに基づいて、推論部21を構成するニューラルネットワークのパラメータを更新する。こうして、推論部21を構成する深層学習モデルの学習が行われる。
以上のように、第1実施形態の学習装置100によれば、正則化項をミニバッチの単位で計算することにより、各訓練データの正則化項に対する寄与度を適応的に決定することができる。また、学習装置100は、推論部21が出力する過大または過小な推論結果を重み関数を用いて強調することで、簡単な訓練データに対しては正則化を強めることで過適合を防ぎ、難しい訓練データに対しては正則化を弱めることで学習の効率を上げることができる。さらに、学習装置100は、リスケール関数を用いて重みの全体のスケールを調整することで、重み関数を用いて部分的に強調された重みを正規化し、全体の正則化の強さを調整することができる。その結果、訓練データに応じて正則化の強度を適応的に決定し、より高い汎化性能、即ち分類精度を得ることが可能となる。
上記の構成において、推論部21は推論手段の一例であり、損失関数計算部22は損失計算手段の一例であり、重み関数計算部24は重み計算手段の一例であり、重み総和計算部25は重み計算手段の一例であり、リスケール関数計算部26は正則化項計算手段の一例であり、パラメータ更新部27は最適化手段の一例である。
(関数の例)
図3は、重み関数とリスケール関数の例を示す。第1の例では、重み関数は、クラススコアv→ iに含まれる各クラスの信頼度スコアvicの2乗を、全クラス数cにわたり合計する関数である。また、リスケール関数は、重み総和計算部25が出力する総和Sの平方根を計算する関数である。
図3は、重み関数とリスケール関数の例を示す。第1の例では、重み関数は、クラススコアv→ iに含まれる各クラスの信頼度スコアvicの2乗を、全クラス数cにわたり合計する関数である。また、リスケール関数は、重み総和計算部25が出力する総和Sの平方根を計算する関数である。
第2の例では、重み関数は、クラススコアv→
iに含まれる各クラスの信頼度スコアvicの2乗の自然対数を全クラス数cにわたり合計する関数である。また、リスケール関数は、重み総和計算部25が出力する総和Sの対数を計算する関数である。
第3の例では、重み関数は、クラススコアv→
iに含まれる各クラスの正負の信頼度スコアvicの自然対数を、全クラス数cにわたり合計する関数である。また、リスケール関数は、重み総和計算部25が出力する総和Sの対数を計算する関数である。
(学習処理)
図4は、学習装置100による学習処理のフローチャートである。この処理は、図1に示すプロセッサ12が予め用意されたプログラムを実行し、図2に示す各要素として動作することにより実現される。
図4は、学習装置100による学習処理のフローチャートである。この処理は、図1に示すプロセッサ12が予め用意されたプログラムを実行し、図2に示す各要素として動作することにより実現される。
まず、推論部21は、入力された訓練データxiに対する推論を行う(ステップS11)。推論部21は、推論により得られたクラススコアv→
iを、損失関数計算部22及び重み関数計算部24に出力する。損失関数計算部22は、クラススコアv→
iに基づき、式(1)を用いて損失lcls,iを計算し、総和計算部23へ出力する(ステップS12)。
次に、重み関数計算部24は、クラススコアv→
iに基づき、式(2)を用いて重みwiを計算し、重み総和計算部25へ出力する(ステップS13)。次に、重み総和計算部25は、式(3)によりミニバッチ毎に重みwiの総和Sを計算し、リスケール関数計算部26へ出力する(ステップS14)。次に、リスケール関数計算部26は、リスケール関数を用いて、入力された総和Sから正規化項Lregを計算し、総和計算部23へ出力する(ステップS15)。なお、ステップS12と、ステップS13~S15の処理は、逆の順序で行われてもよく、時間的に並行して行われてもよい。
次に、総和計算部23は、損失関数計算部22から入力される損失lcls,iと、リスケール関数計算部26から入力される正規化項Lregとに基づき、式(5)を用いて損失の総和(総損失L)を計算し、パラメータ更新部27へ出力する(ステップS16)。次に、パラメータ更新部27は、損失の総和(総損失L)に基づいて、推論部21を構成するニューラルネットワークのパラメータを更新する(ステップS17)。
次に、学習の終了条件が具備されたか否かが判定される(ステップS18)。終了要件としては、例えば、全ての訓練データが使用されたこと、または、推論部21の精度が所定の精度に達したこと、などを用いることができる。終了条件が具備されていない場合(ステップS18:No)、処理はステップS11へ戻り、次の訓練データを用いてステップS11~S17の処理が行われる。一方、終了条件が具備された場合(ステップS18:Yes)、学習処理は終了する。
<第2実施形態>
図5は、第2実施形態の学習装置の機能構成を示すブロック図である。学習装置200は、推論手段201と、重み計算手段202と、重み総和計算手段203と、正則化項計算手段204と、最適化手段205と、を備える。
図5は、第2実施形態の学習装置の機能構成を示すブロック図である。学習装置200は、推論手段201と、重み計算手段202と、重み総和計算手段203と、正則化項計算手段204と、最適化手段205と、を備える。
図6は、第2実施形態の学習装置200による学習処理のフローチャートである。まず、推論手段201は、訓練データに対する推論を行い、クラススコアを出力する(ステップS21)。次に、重み計算手段202は、推論手段201が出力したクラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する(ステップS22)。次に、重み総和計算手段203は、所定数の訓練データを含むミニバッチにわたって、重みの総和を計算する(ステップS23)。次に、正則化項計算手段204は、線形より緩やかに増大する単調増加関数であるリスケール関数を総和に適用し、正則化項を計算する(ステップS24)。そして、最適化手段205は、正則化項を含む損失を用いて、推論手段を最適化する(ステップS25)。
第2実施形態の学習装置200によれば、深層学習において、訓練データに応じて正則化の強度を適応的に制御することが可能となる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する推論手段と、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する重み計算手段と、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算する重み総和計算手段と、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算する正則化項計算手段と、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する最適化手段と、
を備える学習装置。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する推論手段と、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する重み計算手段と、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算する重み総和計算手段と、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算する正則化項計算手段と、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する最適化手段と、
を備える学習装置。
(付記2)
前記正則化項計算手段は、前記クラススコアが高い場合に前記正則化項の値を大きくし、前記クラススコアが低い場合に前記正則化項の値を小さくする付記1に記載の学習装置。
前記正則化項計算手段は、前記クラススコアが高い場合に前記正則化項の値を大きくし、前記クラススコアが低い場合に前記正則化項の値を小さくする付記1に記載の学習装置。
(付記3)
前記クラススコアと、前記訓練データに対応する正解クラスとに基づいて損失を計算する損失計算手段を備え、
前記総損失は、前記損失と、前記正則化項との和である付記1又は2に記載の学習装置。
前記クラススコアと、前記訓練データに対応する正解クラスとに基づいて損失を計算する損失計算手段を備え、
前記総損失は、前記損失と、前記正則化項との和である付記1又は2に記載の学習装置。
(付記4)
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の平方根を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の平方根を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
(付記5)
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗の自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗の自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
(付記6)
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である付記1乃至3のいずれか一項に記載の学習装置。
(付記7)
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する学習方法。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する学習方法。
(付記8)
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する処理をコンピュータに実行させるプログラムを記録した記録媒体。
推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する処理をコンピュータに実行させるプログラムを記録した記録媒体。
以上、実施形態及び実施例を参照して本開示を説明したが、本開示は上記実施形態及び実施例に限定されるものではない。本開示の構成や詳細には、本開示のスコープ内で当業者が理解し得る様々な変更をすることができる。
12 プロセッサ
21 推論部
22 損失関数計算部
23 総和計算部
24 重み関数計算部
25 重み総和計算部
26 リスケール関数計算部
27 パラメータ更新部
100、200 学習装置
21 推論部
22 損失関数計算部
23 総和計算部
24 重み関数計算部
25 重み総和計算部
26 リスケール関数計算部
27 パラメータ更新部
100、200 学習装置
Claims (8)
- 推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力する推論手段と、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算する重み計算手段と、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算する重み総和計算手段と、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算する正則化項計算手段と、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する最適化手段と、
を備える学習装置。 - 前記正則化項計算手段は、前記クラススコアが高い場合に前記正則化項の値を大きくし、前記クラススコアが低い場合に前記正則化項の値を小さくする請求項1に記載の学習装置。
- 前記クラススコアと、前記訓練データに対応する正解クラスとに基づいて損失を計算する損失計算手段を備え、
前記総損失は、前記損失と、前記正則化項との和である請求項1又は2に記載の学習装置。 - 前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の平方根を計算する関数である請求項1乃至3のいずれか一項に記載の学習装置。 - 前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの2乗の自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である請求項1乃至3のいずれか一項に記載の学習装置。 - 前記クラススコアは、1つの訓練データに対する各クラスの信頼度スコアを含み、
前記重み関数は、前記各クラスの信頼度スコアの自然対数を全クラスにわたり合計する関数であり、
前記リスケール関数は、前記総和の対数を計算する関数である請求項1乃至3のいずれか一項に記載の学習装置。 - 推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する学習方法。 - 推論モデルを用いて訓練データに対する推論を行い、クラススコアを出力し、
出力された前記クラススコアから、当該クラススコアが過大又は過少なときに線形より急速に増大する重み関数を用いて重みを計算し、
所定数の訓練データを含むミニバッチにわたって前記重みの総和を計算し、
線形より緩やかに増大する単調増加関数であるリスケール関数を前記総和に適用して、正則化項を計算し、
前記正則化項を含む総損失を用いて、前記推論モデルを最適化する処理をコンピュータに実行させるプログラムを記録した記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023549281A JPWO2023047562A5 (ja) | 2021-09-27 | 学習装置、学習方法、及び、プログラム | |
PCT/JP2021/035277 WO2023047562A1 (ja) | 2021-09-27 | 2021-09-27 | 学習装置、学習方法、及び、記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/035277 WO2023047562A1 (ja) | 2021-09-27 | 2021-09-27 | 学習装置、学習方法、及び、記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2023047562A1 true WO2023047562A1 (ja) | 2023-03-30 |
Family
ID=85720253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2021/035277 WO2023047562A1 (ja) | 2021-09-27 | 2021-09-27 | 学習装置、学習方法、及び、記録媒体 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2023047562A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021502626A (ja) * | 2018-07-27 | 2021-01-28 | シェンチェン センスタイム テクノロジー カンパニー リミテッドShenzhen Sensetime Technology Co.,Ltd | 両眼画像の深度推定方法及び装置、機器、プログラム並びに媒体 |
WO2021144943A1 (ja) * | 2020-01-17 | 2021-07-22 | 富士通株式会社 | 制御方法、情報処理装置および制御プログラム |
-
2021
- 2021-09-27 WO PCT/JP2021/035277 patent/WO2023047562A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021502626A (ja) * | 2018-07-27 | 2021-01-28 | シェンチェン センスタイム テクノロジー カンパニー リミテッドShenzhen Sensetime Technology Co.,Ltd | 両眼画像の深度推定方法及び装置、機器、プログラム並びに媒体 |
WO2021144943A1 (ja) * | 2020-01-17 | 2021-07-22 | 富士通株式会社 | 制御方法、情報処理装置および制御プログラム |
Non-Patent Citations (1)
Title |
---|
CLARA MEISTER; ELIZABETH SALESKY; RYAN COTTERELL: "Generalized Entropy Regularization or: There's Nothing Special about Label Smoothing", ARXIV.ORG, CORNELL UNIVERSITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERSITY ITHACA, NY 14853, 2 May 2020 (2020-05-02), 201 Olin Library Cornell University Ithaca, NY 14853 , XP081657295 * |
Also Published As
Publication number | Publication date |
---|---|
JPWO2023047562A1 (ja) | 2023-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10460230B2 (en) | Reducing computations in a neural network | |
US20230162045A1 (en) | Data discriminator training method, data discriminator training apparatus, non-transitory computer readable medium, and training method | |
CORNUET et al. | Adaptive multiple importance sampling | |
US20170061279A1 (en) | Updating an artificial neural network using flexible fixed point representation | |
US11580406B2 (en) | Weight initialization method and apparatus for stable learning of deep learning model using activation function | |
Krause et al. | CMA-ES with optimal covariance update and storage complexity | |
WO2022095432A1 (zh) | 神经网络模型训练方法、装置、计算机设备及存储介质 | |
CN105389454A (zh) | 预测模型生成器 | |
US20240005166A1 (en) | Minimum Deep Learning with Gating Multiplier | |
WO2020222994A1 (en) | Adaptive sampling for imbalance mitigation and dataset size reduction in machine learning | |
US20220327365A1 (en) | Information processing apparatus, information processing method, and storage medium | |
JP2022515941A (ja) | 生成的敵対神経網ベースの分類システム及び方法 | |
JP7267966B2 (ja) | 情報処理装置及び情報処理方法 | |
Fan et al. | Neighborhood centroid opposite-based learning Harris Hawks optimization for training neural networks | |
US11636374B2 (en) | Exponential spin embedding for quantum computers | |
JP2023550921A (ja) | ニューラル・ネットワークにおける重みに基づく調節 | |
CN114861671A (zh) | 模型训练方法、装置、计算机设备及存储介质 | |
WO2023047562A1 (ja) | 学習装置、学習方法、及び、記録媒体 | |
CN117808120A (zh) | 用于大语言模型的强化学习的方法和装置 | |
US20230087642A1 (en) | Training apparatus and method for neural network model, and related device | |
CN116235184A (zh) | 在神经网络中动态地规范化数据的方法和装置 | |
US20230088669A1 (en) | System and method for evaluating weight initialization for neural network models | |
CN109256142B (zh) | 语音转换基于扩展内核类网格法处理零散数据建模方法及设备 | |
US20220383092A1 (en) | Turbo training for deep neural networks | |
Beltiukov | Optimizing Q-learning with K-FAC algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21958435 Country of ref document: EP Kind code of ref document: A1 |
|
WWE | Wipo information: entry into national phase |
Ref document number: 2023549281 Country of ref document: JP |
|
NENP | Non-entry into the national phase |
Ref country code: DE |