JP6745507B2 - Parameter estimation device, method, and program - Google Patents
Parameter estimation device, method, and program Download PDFInfo
- Publication number
- JP6745507B2 JP6745507B2 JP2017187870A JP2017187870A JP6745507B2 JP 6745507 B2 JP6745507 B2 JP 6745507B2 JP 2017187870 A JP2017187870 A JP 2017187870A JP 2017187870 A JP2017187870 A JP 2017187870A JP 6745507 B2 JP6745507 B2 JP 6745507B2
- Authority
- JP
- Japan
- Prior art keywords
- probability
- parameter
- value
- logic program
- parameter estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Complex Calculations (AREA)
Description
本発明は、パラメータ推定装置、方法、及びプログラムに係り、特に、確率論理プログラムで用いられる確率パラメータの各々の値を推定するパラメータ推定装置、方法、及びプログラムに関する。 The present invention relates to a parameter estimation device, method, and program, and more particularly to a parameter estimation device, method, and program for estimating the value of each probability parameter used in a stochastic logic program.
論理プログラムは一階述語論理の節の集まりによって、対象領域における関係性を表現するものである。例えば、 The logic program expresses the relation in the target area by the collection of the clauses of the first-order predicate logic. For example,
mother(X,Y):- parent(X,Y),female(X).
female(hanako).
parent(hanako,taro).
mother(X,Y):- parent(X,Y),female(X).
female(hanako).
parent(hanako,taro).
は３つの節からなる論理プログラムである。X,Yは変数、hanako,taroは定数、mother,parent,femaleは述語記号である。 Is a logical program consisting of three sections. X, Y are variables, hanako, taro are constants, mother, parent, female are predicate symbols.
また、Ａ:−Ｂ１,...,ＢＮの形の節のうち、Ａを頭部、Ｂ１,...,ＢＮを本体部とよぶ。上記の論理プログラムは、ある事象間の論理的な関係を定めている。 In addition, A: -B 1, ..., out of the section in the form of B N, the head of the A, B 1, ..., the B N referred to as the main body. The above logical program defines a logical relationship between certain events.
確率論理プログラムは論理プログラムの拡張であり、論理プログラムが確率的な事象を扱えるようにしたものである。通常の論理プログラムの枠組みにおいては、ある論理プログラムＴとある質問ｑが与えられたとき、節の集合からその質問を論理的帰結として導き出せるかどうかを判断するしかできなかった。すなわち、例えば３０％の確率でｑを導き出すことができるといったような、不確実性を含む関係を表現することができなかった。確率論理プログラムは確率分布を用いることによって、ある質問ｑをプログラムが導出できる確率 The stochastic logic program is an extension of the logic program and allows the logic program to handle stochastic events. In a usual logic program framework, when a given logic program T and a given question q are given, it is only possible to judge from the set of clauses whether or not the question can be derived as a logical consequence. That is, it has not been possible to express a relationship including uncertainty such that q can be derived with a probability of 30%. The stochastic logic program uses a probability distribution to determine the probability that the program can derive a certain question q.
を定義することができるようになる。そのため、確率論理プログラムを用いることでより柔軟に対象領域における関係性を記述することが可能となる。 Will be able to define. Therefore, it becomes possible to describe the relationship in the target area more flexibly by using the stochastic logic program.
mother(X, Y) :- parent(X, Y), female(X).
0.3::female(hanako).
0.5::parent(hanako, taro).
mother(X, Y) :- parent(X, Y), female(X).
0.3::female(hanako).
0.5::parent(hanako, taro).
上記は確率論理プログラムの一種である、ＰｒｏｂＬｏｇ（非特許文献１参照）の記述例である。以下、ＰｒｏｂＬｏｇを対象としたパラメータ推定について説明する。通常の論理プログラムとの違いは、節female(hanako)., parent(taro).に［０，１］の範囲のパラメータが付与されていることである。このパラメータは該当の節が論理プログラムに含まれる確率を表している。 The above is a description example of ProbLog (see Non-Patent Document 1), which is a type of stochastic logic program. Parameter estimation targeting ProbLog will be described below. The difference from the normal logic program is that the parameters female(hanako). and parent(taro). are given parameters in the range [0, 1]. This parameter represents the probability that the relevant section will be included in the logic program.
例えば0.3::female(hanako).は、節female(hanako)が0.3の確率で論理プログラムに含まれることを表している。確率論理プログラムでは、このようにいくつかの節に数値を付与することで、確率分布Ｐ（ｑ）を定義する。例えば上記のプログラムでは、 For example, 0.3::female(hanako). indicates that the clause female(hanako) is included in the logic program with a probability of 0.3. In the stochastic logic program, the probability distribution P(q) is defined by assigning numerical values to some nodes in this way. For example, in the above program,
となる。 Becomes
確率論理プログラムのパラメータが未知のときに、訓練データを入力として与え、訓練データに対する負の対数尤度を最小化するようにパラメータを推定するパラメータ推定手法が提案されている（非特許文献２参照）。すなわち、ｗｉを論理プログラムに含まれるｉ番目の確率の付与された節に対応するパラメータとし、すべてのパラメータの集合をｗ＝｛ｗ１,...,ｗｎ｝とすると、論理プログラムＴと、訓練データとを入力として受け取り、訓練データに対する負の対数尤度を最小化するようなパラメータの集合＾ｗ＝｛＾ｗ１,...,＾ｗｎ｝を求める手法が提案されている。さらには、確率論理プログラムのパラメータ推定問題において、パラメータの値が０または１をとるように目的関数に正規化項を足し合わせて最小化することによって確率論理プログラムのパラメータ数を減らすパラメータ推定手法も提案されている（非特許文献２参照）。この手法を用いると、推定されたパラメータ＾ｗ中には、ｗｉ＝０またはｗｉ＝１となる成分が多く含まれることになる。確率が０または１となる確率つき節は削除したり、あるいは確率をとらない通常の節として扱うことができるようになる。確率論理プログラムを用いた推論の手続きは、確率つき節の数に応じて複雑になるため、確率つき節の数を減らすことでより推論が高速に行えるという効果がある。 A parameter estimation method has been proposed in which when the parameters of the stochastic logic program are unknown, the training data is given as an input and the parameters are estimated so as to minimize the negative log-likelihood for the training data (see Non-Patent Document 2). ). That is, if w i is a parameter corresponding to the node to which the i-th probability is included in the logic program and the set of all parameters is w={w 1 ,..., W n }, the logic program T , And training data are received as inputs, and a method for finding a set of parameters ^w={^w 1 ,...,^w n } that minimizes the negative log-likelihood for the training data has been proposed. There is. Furthermore, in the parameter estimation problem of the stochastic logic program, a parameter estimation method for reducing the number of parameters of the stochastic logic program by adding a normalization term to the objective function and minimizing it so that the value of the parameter is 0 or 1 is also provided. It has been proposed (see Non-Patent Document 2). When this method is used, the estimated parameter ^w contains many components for which w i =0 or w i =1. A clause with a probability of 0 or 1 can be deleted or treated as a normal clause without a probability. The inference procedure using the probabilistic logic program becomes complicated depending on the number of probabilistic clauses. Therefore, reducing the number of probabilistic clauses has the effect of enabling faster inference.
既存の正則化項を用いた手法では、＾ｗｉ＝０または＾ｗｉ＝１となるパラメータの数を増やすことで確率つき節の数の少ない確率論理プログラムを推定することができた。しかし、既存法で用いられている正則化項では、０または１の値をとらないパラメータの個数が最終的にいくつになるかを事前に知ることができないという課題があった。そのため、得られた確率論理プログラムを用いた確率推論における推論プロセスの計算時間をある一定時間以下に収めたいなどの要求があった場合には、ハイパーパラメータを変更させつつ所望のパラメータが推定できるまで何度もパラメータ推定処理を繰り返す必要があった。 With the existing method using the regularization term, it is possible to estimate a stochastic logic program with a small number of probable clauses by increasing the number of parameters for which ^w i =0 or ^w i =1. However, the regularization term used in the existing method has a problem that it is not possible to know in advance how many parameters will take no values of 0 or 1 in the end. Therefore, if there is a request to keep the calculation time of the inference process in stochastic inference using the obtained stochastic logic program within a certain time, it is possible to estimate the desired parameter while changing the hyperparameters. It was necessary to repeat the parameter estimation process many times.
本発明は、上記問題点を解決するために成されたものであり、確率論理プログラムで用いられる確率パラメータの数を指定して、確率パラメータを推定することができるパラメータ推定装置、方法、及びプログラムを提供することを目的とする。 The present invention has been made to solve the above problems, and a parameter estimation device, method, and program capable of estimating a probability parameter by designating the number of probability parameters used in a probability logic program. The purpose is to provide.
上記目的を達成するために、第１の発明に係るパラメータ推定装置は、確率パラメータが付与された事実を表す節の集合と、前記確率パラメータが付与されていない節の集合とを含む確率論理プログラムであって、かつ、質問として与えられた事実を論理的帰結として導出することができる確率を算出する確率論理プログラムで用いられる前記確率パラメータの各々の値を推定するパラメータ推定装置であって、前記確率論理プログラムの論理的帰結として導出されるべき事実の集合と、論理的帰結として導出されるべきではない事実の集合とからなる予め用意された複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付ける訓練例入力部と、前記訓練例入力部によって受け付けた複数の訓練例と、前記確率論理プログラムと、前記サイズとに基づいて、前記確率論理プログラムのもとでの前記複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、前記確率パラメータが付与された事実を表す節の数が前記サイズ以下となるように、前記確率論理プログラムの前記確率パラメータの各々の値を推定するパラメータ推定部と、を含んで構成されている。 In order to achieve the above object, a parameter estimation device according to a first invention is a stochastic logic program including a set of clauses representing a fact to which a probability parameter is added and a set of clauses to which the probability parameter is not added. And a parameter estimation device for estimating the value of each of the probability parameters used in a probability logic program for calculating the probability that the fact given as a question can be derived as a logical consequence, A plurality of training examples prepared in advance consisting of a set of facts that should be derived as logical consequences of a probabilistic logic program and a set of facts that should not be derived as logical consequences, and the probability parameter was given Based on the training example input unit that accepts designation of the size indicating the number of clauses representing facts, the plurality of training examples received by the training example input unit, the stochastic logic program, and the size, the stochastic logic The objective function representing the negative log-likelihood of the appearance probabilities of the plurality of training examples under the program is minimized, and the number of clauses representing the fact to which the probability parameter is given is equal to or smaller than the size. And a parameter estimation unit that estimates the value of each of the probability parameters of the probability logic program.
また、第１の発明に係るパラメータ推定装置において、前記確率パラメータの各々の初期値、又は前回更新された前記確率パラメータの各々の値に基づいて、前記目的関数の勾配を計算し、計算された前記目的関数の勾配に基づいて、前記確率パラメータの各々の値を更新し、更新された前記確率パラメータの値に基づいて、予め定められた基準値との差が小さい順に前記確率パラメータを前記サイズ分だけ選択し、選択されなかった前記確率パラメータの値を０又は１にすることを、予め定められた繰り返し終了条件を満たすまで繰り返すことにより、前記確率論理プログラムの前記確率パラメータの各々の値を推定するようにしてもよい。 In the parameter estimation device according to the first aspect of the present invention, the gradient of the objective function is calculated based on the initial value of each of the probability parameters or the value of each of the probability parameters updated last time. Based on the gradient of the objective function, each value of the probability parameter is updated, and based on the updated value of the probability parameter, the probability parameters are sized in order of increasing difference from a predetermined reference value. By repeating the process of selecting only the number of minutes and setting the value of the unselected probability parameter to 0 or 1 until a predetermined repeat end condition is satisfied, the value of each of the probability parameters of the probability logic program is calculated. It may be estimated.
第２の発明に係るパラメータ推定方法は、確率パラメータが付与された事実を表す節の集合と、前記確率パラメータが付与されていない節の集合とを含む確率論理プログラムであって、かつ、質問として与えられた事実を論理的帰結として導出することができる確率を算出する確率論理プログラムで用いられる前記確率パラメータの各々の値を推定するパラメータ推定装置におけるパラメータ推定方法であって、 A parameter estimating method according to a second aspect of the present invention is a probabilistic logic program including a set of clauses representing a fact to which a probability parameter is added and a set of clauses to which the probability parameter is not added, and as a question. A parameter estimation method in a parameter estimation device for estimating the value of each of the probability parameters used in a probability logic program that calculates a probability that can derive a given fact as a logical consequence,
訓練例入力部が、前記確率論理プログラムの論理的帰結として導出されるべき事実の集合と、論理的帰結として導出されるべきではない事実の集合とからなる予め用意された複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付けるステップと、 A training example input unit, a plurality of training examples prepared in advance consisting of a set of facts that should be derived as a logical consequence of the stochastic logic program, and a set of facts that should not be derived as a logical consequence, Receiving a designation of a size indicating the number of clauses representing the fact to which the probability parameter is given,
パラメータ推定部が、前記訓練例入力部によって受け付けた複数の訓練例と、前記確率論理プログラムと、前記サイズとに基づいて、前記確率論理プログラムのもとでの前記複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、前記確率パラメータが付与された事実を表す節の数が前記サイズ以下となるように、前記確率論理プログラムの前記確率パラメータの各々の値を推定するステップと、を含んで実行することを特徴とする。 Parameter estimation unit, based on the plurality of training examples received by the training example input unit, the probability logic program, and the size of the appearance probability of the plurality of training examples under the probability logic program The value of each of the probability parameters of the stochastic logic program is set so that the objective function representing the negative logarithmic likelihood is minimized and the number of clauses representing the fact to which the probability parameter is given is equal to or smaller than the size. And a step of estimating.
また、第２の発明に係るパラメータ推定方法において、前記確率パラメータの各々の初期値、又は前回更新された前記確率パラメータの各々の値に基づいて、前記目的関数の勾配を計算し、計算された前記目的関数の勾配に基づいて、前記確率パラメータの各々の値を更新し、更新された前記確率パラメータの値に基づいて、予め定められた基準値との差が小さい順に前記確率パラメータを前記サイズ分だけ選択し、選択されなかった前記確率パラメータの値を０又は１にすることを、予め定められた繰り返し終了条件を満たすまで繰り返すことにより、前記確率論理プログラムの前記確率パラメータの各々の値を推定するようにしてもよい。 In the parameter estimating method according to the second aspect of the present invention, the gradient of the objective function is calculated based on the initial value of each of the probability parameters or the value of each of the probability parameters updated last time. Based on the gradient of the objective function, each value of the probability parameter is updated, and based on the updated value of the probability parameter, the probability parameters are sized in order of increasing difference from a predetermined reference value. By repeating the process of selecting only the number of minutes and setting the value of the unselected probability parameter to 0 or 1 until a predetermined repeat end condition is satisfied, the value of each of the probability parameters of the probability logic program is calculated. It may be estimated.
第３の発明に係るプログラムは、コンピュータを、第１の発明に係るパラメータ推定装置の各部として機能させるためのプログラムである。 A program according to a third invention is a program for causing a computer to function as each unit of the parameter estimation device according to the first invention.
本発明のパラメータ推定装置、方法、及びプログラムによれば、複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付け、複数の訓練例と、確率論理プログラムと、サイズとに基づいて、確率論理プログラムのもとでの複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、確率パラメータが付与された事実を表す節の数がサイズ以下となるように、確率論理プログラムの確率パラメータの各々の値を推定することにより、確率論理プログラムで用いられる確率パラメータの数を指定して、確率パラメータを推定することができる、という効果が得られる。 According to the parameter estimation device, method, and program of the present invention, a plurality of training examples and a designation of a size indicating the number of clauses representing the fact to which the probability parameter is given are accepted, and a plurality of training examples and probabilities are given. Based on the logic program and the size, the objective function representing the negative log-likelihood of the appearance probabilities of the plurality of training examples under the stochastic logic program is minimized, and the probability parameter is represented. By estimating each value of the probability parameter of the probabilistic logic program so that the number of clauses is equal to or smaller than the size, the probability parameter can be estimated by designating the number of probability parameters used in the probabilistic logic program. The effect of, is obtained.
＜本発明の実施の形態の概要＞ <Outline of Embodiment of the Present Invention>
まず、本発明の実施の形態の概要について説明する。本発明の実施の形態では、確率論理プログラムにおける確率パラメータが付与された事実を表す節の数を示すサイズ（Ｒとする）が予め指定されているときに、推定された確率パラメータが＾ｗｉ≠０かつ＾ｗｉ≠１であるような要素の数がＲ個以下であるように、パラメータ＾ｗを推定する手法を提案する。 First, an outline of an embodiment of the present invention will be described. In the embodiment of the present invention, when the size (R) indicating the number of clauses representing the fact to which the probability parameter is added in the probability logic program is designated in advance, the estimated probability parameter is ^ w i We propose a method to estimate the parameter ^w such that the number of elements such that ≠0 and ^w i ≠1 is R or less.
以下、図面を参照して本発明の実施の形態を詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
＜本発明の実施の形態に係るパラメータ推定装置の構成＞ <Configuration of Parameter Estimating Device According to Embodiment of Present Invention>
本発明の実施の形態に係るパラメータ推定装置の構成について説明する。本発明の実施の形態に係るパラメータ推定装置１００は、確率パラメータが付与された事実を表す節の集合と、確率パラメータが付与されていない節の集合とを含む確率論理プログラムであって、かつ、質問として与えられた事実を論理的帰結として導出することができる確率を算出する確率論理プログラムで用いられる確率パラメータの各々の値を推定する。 The configuration of the parameter estimation device according to the embodiment of the present invention will be described. The parameter estimation device 100 according to the embodiment of the present invention is a stochastic logic program including a set of clauses representing facts to which a probability parameter is added and a set of clauses to which a probability parameter is not added, and Estimate each value of the probability parameter used in the probability logic program that calculates the probability that the fact given as a question can be derived as a logical consequence.
本発明の実施の形態に係るパラメータ推定装置１００は、ＣＰＵ（Central Processing Unit）と、ＣＰＵが後述する各処理ルーチンを実行するためのプログラム等を記憶したＲＯＭ（Read Only Memory）と、ＲＡＭ（Random Access Memory）と、を備えたコンピュータで構成することができる。このパラメータ推定装置１００は、機能的には図１に示すようにプログラム入力部１０と、訓練例入力部１２と、演算部２０と、出力部３０とを備えている。 A parameter estimation device 100 according to an embodiment of the present invention includes a CPU (Central Processing Unit), a ROM (Read Only Memory) that stores a program and the like for the CPU to execute each processing routine described later, and a RAM (Random). Access Memory), and a computer equipped with. Functionally, the parameter estimation device 100 includes a program input unit 10, a training example input unit 12, a calculation unit 20, and an output unit 30 as shown in FIG.
プログラム入力部１０は、確率論理プログラムを受け付ける。具体的には、プログラム入力部１０は、確率パラメータを推定する対象となる確率論理プログラムのひな形の入力を受け付ける。ここで、ひな形とは、いくつかの節の確率パラメータの値が未定義であるような確率論理プログラムのことをいう。例えば、 The program input unit 10 receives a stochastic logic program. Specifically, the program input unit 10 receives a template input of a stochastic logic program for which a probability parameter is estimated. Here, the template refers to a stochastic logic program in which the values of the probability parameters of some clauses are undefined. For example,
mother(X, Y):- parent(X, Y), female(X).
ｗ１::female(hanako).
ｗ２::parent(hanako, taro).
mother(X, Y):-parent(X, Y), female(X).
w 1 :: female(hanako).
w 2 ::parent(hanako, taro).
は、２つの確率パラメータつき節の値が定まっていない、ひな形である。 Is a template in which the values of the two clauses with probability parameters are not determined.
訓練例入力部１２は、確率論理プログラムの論理的帰結として導出されるべき事実の集合と、論理的帰結として導出されるべきではない事実の集合とを含む予め用意された訓練例を複数受け付ける。訓練例は、確率論理プログラムのひな形のパラメータが正しく推定されたときに、生成されると考えられる事実の集合である。以下では、訓練例の集合を｛Ｉ１,Ｉ２,...,ＩＭ｝と表現する。各Ｉｊは一つの訓練例であり、訓練例Ｉｊは、Ｉｊ＝（Ｉｊ ＋，Ｉｊ −）というペアによって構成されているとする。Ｉｊ ＋は推定された確率論理プログラムから論理的帰結として導出される事実の集合、Ｉｊ −は導出されなかった事実の集合である。上記の確率論理プログラムでは、例えば The training example input unit 12 receives a plurality of training examples prepared in advance including a set of facts that should be derived as a logical consequence of a stochastic logic program and a set of facts that should not be derived as a logical consequence. The training example is a set of facts that are considered to be generated when the model parameters of the stochastic logic program are correctly estimated. Hereinafter, the set of training examples will be expressed as {I 1 , I 2 ,..., I M }. Each I j is one training example, and the training example I j is assumed to be configured by a pair I j =(I j + , I j − ). I j + is a set of facts derived as a logical consequence from the estimated stochastic logic program, and I j − is a set of facts not derived. In the above stochastic logic program, for example,
Ｉｊ ＋＝｛parent(hanako, taro)｝,Ｉｊ −＝｛female(hanako), mother(hanako, taro)｝ I j + ={parent(hanako, taro)}, I j − ={female(hanako), mother(hanako, taro)}
などが訓練例となり、これは推定された確率論理プログラムから、parent（hanako, taro）を論理的帰結として導出できるが、female(hanako)とmother(hanako, taro)を導出できないような例が生成されることがあるということを表している。 Is a training example, and this produces an example in which parent (hanako, taro) can be derived as a logical consequent from an estimated stochastic logic program, but female (hanako) and mother (hanako, taro) cannot be derived. It means that there is something to be done.
また、訓練例入力部１２は、確率論理プログラムにおける確率パラメータが付与された事実を表す節の数を示すサイズＲの指定を受け付ける。 Further, the training example input unit 12 receives the designation of the size R indicating the number of clauses representing the fact to which the probability parameter in the probability logic program is added.
演算部２０は、プログラムデータベース２２と、訓練例データベース２４と、パラメータ推定部２６とを備えている。 The calculation unit 20 includes a program database 22, a training example database 24, and a parameter estimation unit 26.
プログラムデータベース２２には、プログラム入力部１０によって受け付けた確率論理プログラムと、後述する代入の集合ＬＴとが格納される。 The probabilistic logic program accepted by the program input unit 10 and a set L T of substitutions described later are stored in the program database 22.
訓練例データベース２４には、訓練例入力部１２によって受け付けた複数の訓練例、及び確率パラメータが付与された事実を表す節の数を示すサイズＲが格納される。 The training example database 24 stores a plurality of training examples received by the training example input unit 12 and a size R indicating the number of clauses representing a fact to which a probability parameter is added.
パラメータ推定部２６は、訓練例データベース２４に格納された複数の訓練例と、プログラムデータベース２２に格納された、確率論理プログラムと、確率パラメータが付与された事実を表す節の数を示すサイズとに基づいて、確率論理プログラムのもとでの複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、確率パラメータが付与された事実を表す節の数がサイズＲ個以下となるように、確率論理プログラムの確率パラメータの各々の値を推定する。 The parameter estimation unit 26 stores a plurality of training examples stored in the training example database 24, a stochastic logic program stored in the program database 22, and a size indicating the number of clauses representing facts to which a probability parameter is added. Based on this, the objective function representing the negative logarithmic likelihood of the appearance probabilities of a plurality of training examples under the stochastic logic program is minimized, and the number of clauses representing the fact to which the probability parameter is given is of size R. Estimate each value of the probability parameter of the stochastic logic program so that:
そして、パラメータ推定部２６は、推定された確率パラメータの値が１である事実を表す節から、確率パラメータを取り除いて、確率パラメータが付与されていない節とし、推定された確率パラメータの値が０である事実を表す節を、確率論理プログラムから取り除く。 Then, the parameter estimation unit 26 removes the probability parameter from the clause representing the fact that the value of the estimated probability parameter is 1 to obtain a node to which the probability parameter is not added, and the value of the estimated probability parameter is 0. Remove the clause representing the fact that is from the stochastic logic program.
パラメータ推定部２６の具体的な処理の内容を説明するために、はじめに、以下で用いる記法および確率論理プログラムについて説明する。 In order to explain the specific contents of the processing of the parameter estimation unit 26, the notation and stochastic logic program used below will be described first.
まず、一階述語論理の節の集合である確率論理プログラムをＴとする。さらにＴに含まれる節を、確率パラメータが付与された事実の集合Ｆと、確率パラメータが付与されていない節の集合Ｂとに分ける。すなわち、 First, let T be a probabilistic logic program that is a set of first-order predicate logic clauses. Further, the clauses included in T are divided into a fact set F to which a probability parameter is added and a clause set B to which a probability parameter is not added. That is,
である。上述の例では、Ｆ＝｛female(hanako)., parent(hanako, taro).｝,Ｂ＝｛mother(X,Y):-parent(X,Y) ，female(X).｝である。以下ではＦに含まれている事実の集合をｆ１,...,ｆＮとし、それぞれの事実に対応する確率パラメータの各々をｗ１,...,ｗＮとする。 Is. In the above example, F={female(hanako)., parent(hanako, taro).}, B={mother(X,Y):-parent(X,Y), female(X).}. F 1 the set of facts that are included in F in the following, ..., and f N, w 1 of each of the probability parameter corresponding to each of the facts, ..., and w N.
節、項に対する代入とは、その節または項に含まれる変数Ｘを、変数を含まない項で置き換えることをいう。代入は変数と置き換えられる項のペアで与えられ、また以下ではある代入をθとして表す。Ｆに含まれる事実ｆｉ∈Ｆに対する、代入後の項が変数を含まないような全ての代入を考える。定数記号の数が有限であると仮定すると、事実ｆｉに対する全ての代入の集合は Substitution for a clause or term means replacing the variable X included in the clause or term with a term that does not include a variable. Substitutions are given as pairs of terms that are replaced by variables, and some substitutions will be denoted as θ below. Consider all substitutions for the facts f i εF contained in F such that the terms after substitution do not contain variables. Assuming that the number of constant symbols is finite, the set of all substitutions for fact f i is
となる。ここでＫｉはｆｉに対する可能な代入の数である。全ての事実ｆｉ∈Ｆに対する全ての可能な代入の集合の和集合を Becomes Where K i is the number of possible substitutions for f i . Let the union of all possible sets of substitutions for all facts f i ∈F
とする。パラメータ推定部２６は、プログラムデータベース２２に格納された確率論理プログラムに基づいて、全ての事実ｆｉ∈Ｆに対する全ての可能な代入の集合の和集合ＬＴを生成し、プログラムデータベース２２に格納する。 And The parameter estimator 26 generates a union L T of all possible sets of substitutions for all facts f i εF based on the stochastic logic program stored in the program database 22 and stores it in the program database 22. ..
ここで、ある論理プログラムＴのもとで、質問（リテラル）ｑが論理的帰結として求められることを Here, under a certain logic program T, the question (literal) q is found as a logical consequence.
と表現する。同様に、ある論理プログラムＴのもとで、論理的帰結として求められないことを To express. Similarly, under a certain logic program T, what is not required as a logical consequence
と表現する。そして、δ（Ｔ,Ｉｊ）を、すべてのｑ∈Ｉｊ ＋について To express. And δ(T,I j ) for all qεI j +
かつすべてのｑ∈Ｉｊ −について And for all q ∈ I j −
であるなら、δ（Ｔ，Ｉｊ）＝１、そうでないならばδ（Ｔ，Ｉｊ）＝０であるような関数として定義する。 , Δ(T,I j )=1, and δ(T,I j )=0 otherwise.
以上を用いて、確率論理プログラムＴのもとでの訓練例Ｉｊの出現確率Ｐ（Ｉｊ｜Ｔ）を Using the above, the appearance probability P(I j |T) of the training example I j under the stochastic logic program T is
・・・（１）
...(1)
として定義する。また複数の訓練例の出現確率の負の対数尤度関数ｌ（ｗ）を Define as. In addition, the negative logarithmic likelihood function l(w) of the appearance probabilities of a plurality of training examples is
・・・（２）
...(2)
として定義する。上記（２）式を目的関数とする。 Define as. The above equation (2) is the objective function.
以上の定義のもと、パラメータ推定部２６は、パラメータ推定処理を行う。まず、パラメータ推定部２６は、プログラムデータベース２２より、確率論理プログラムのひな形を入力として受け取る。次に、パラメータ推定部２６は、複数の訓練例、及びサイズＲの指定を訓練例データベース２４より受け取る。ここで、ひな形に含まれる確率パラメータをｗ＝｛ｗ１，ｗ２,...,ｗＮ｝とする。また、訓練例の集合を｛Ｉ１，Ｉ２,...,ＩＭ｝とする。そして、パラメータ推定部２６は、パラメータ推定処理を行う。 Based on the above definitions, the parameter estimation unit 26 performs parameter estimation processing. First, the parameter estimation unit 26 receives a model of a stochastic logic program as an input from the program database 22. Next, the parameter estimation unit 26 receives a plurality of training examples and the designation of the size R from the training example database 24. Here, the probability parameter included in the template is w={w 1 , w 2 ,..., W N }. Further, the set of training examples is {I 1 , I 2 ,..., I M }. Then, the parameter estimation unit 26 performs a parameter estimation process.
パラメータ推定処理において、パラメータ推定部２６は、まず、確率パラメータｗ０を初期化する。また、ｋを０に設定する。次にパラメータ推定部２６は、現在のｗ（ｋ）を用いて、上記（２）式の目的関数の勾配∇ｌ(ｗｋ)を計算する。勾配の定義は非特許文献２の（５）式に等しいものである。 In the parameter estimation process, the parameter estimation unit 26 first initializes the probability parameter w 0 . Also, k is set to 0. Next, the parameter estimation unit 26 calculates the gradient ∇l(w k ) of the objective function of the above equation (2) using the current w (k) . The definition of the gradient is equivalent to the equation (5) of Non-Patent Document 2.
次にパラメータ推定部２６は、計算した目的関数の勾配∇ｌ(ｗｋ)を用いて、 Next, the parameter estimation unit 26 uses the calculated gradient ∇l(w k ) of the objective function,
・・・（３）
と確率パラメータｘｋを更新する。αｋは勾配の更新度合いを調整するスカラー値のパラメータである。αｋの値の設定方法は非特許文献２にある手法を用いてもよい。
...(3)
And the probability parameter x k is updated. α k is a scalar value parameter that adjusts the degree of gradient update. As the method of setting the value of α k , the method described in Non-Patent Document 2 may be used.
次にパラメータ推定部２６は、ｘｋの各要素の値が０以下ならば０に、１以上ならば１に修正する。そして、パラメータ推定部２６は、ｘｋの各要素ｘｉ ｋから、(ｘｉ ｋ−０．５)２の値が小さい順にＲ分だけ選択する。選択されなかった要素ｘｉ ｋについては、ｘｉ ｋの値がｘｉ ｋ≧０．５ならば０に、ｘｉ ｋ＞０．５ならば１に修正する。 Next, the parameter estimation unit 26 corrects the value of each element of x k to 0 if it is 0 or less, and to 1 if it is 1 or more. The parameter estimation unit 26, from each element x i k of x k, selects only R component in the order (x i k -0.5) 2 value is less. For not selected elements x i k, the value of x i k are the x i k ≧ 0.5 If 0, corrected to x i k> 0.5 if 1.
次にパラメータ推定部２６は、ｗｋ＋１←ｘｋとし、繰り返し終了条件を満たす場合は処理を終了する。繰り返し終了条件を満たさない場合は、ｋ←ｋ＋１として処理を繰り返す。繰り返し終了条件は、ｗｋ＋１とｘｋとの差分が小さい、もしくはｋがある定められた値より大きくなった場合とする。 Next, the parameter estimation unit 26 sets w k+1 ←x k, and ends the process when the repetition end condition is satisfied. If the repetition end condition is not satisfied, the process is repeated with k←k+1. The repetition end condition is when the difference between w k+1 and x k is small or when k is larger than a predetermined value.
パラメータ推定部２６は、パラメータ推定処理の終了後、推定結果を出力する。ここで、パラメータ推定部２６は、入力として与えられたひな形に推定された確率パラメータを付与したものを推定結果とする。このとき、あるｗｉがｗｉ＝０であったならば、対応する節を出力する確率論理プログラムから取り除く。また、ｗｉ＝１であったならば、Ｆよりｆｉを取り除き、かつＢにｆｉを追加する。こうして得られた確率論理プログラムを出力して処理を終了する。 The parameter estimation unit 26 outputs the estimation result after the parameter estimation process is completed. Here, the parameter estimation unit 26 sets an estimation result by adding the estimated probability parameter to the template given as an input. At this time, if a certain w i is w i =0, the corresponding clause is removed from the probabilistic logic program that outputs it. If w i =1 then f i is removed from F and f i is added to B. The probabilistic logic program thus obtained is output and the processing is terminated.
出力部３０は、パラメータ推定部２６によって出力された確率論理プログラムを出力する。 The output unit 30 outputs the stochastic logic program output by the parameter estimation unit 26.
＜本発明の実施の形態に係るパラメータ推定装置の作用＞ <Operation of Parameter Estimating Device According to Embodiment of Present Invention>
次に、本発明の実施の形態に係るパラメータ推定装置１００の作用について説明する。確率論理プログラムと、複数の訓練例と、確率パラメータが付与された事実を表す節の数を示すサイズＲの指定とがパラメータ推定装置１００に入力されると、演算部２０によって、図３に示す推定処理ルーチンが実行される。 Next, the operation of the parameter estimation device 100 according to the embodiment of the present invention will be described. When the stochastic logic program, the plurality of training examples, and the designation of the size R indicating the number of clauses representing the fact to which the probability parameter is added are input to the parameter estimation device 100, the calculation unit 20 causes the calculation shown in FIG. The estimation processing routine is executed.
まず、ステップＳ１００において、プログラム入力部１０によって、入力された確率論理プログラムを受け付け、プログラムデータベース２２に格納する。 First, in step S100, the input stochastic logic program is accepted by the program input unit 10 and stored in the program database 22.
次に、ステップＳ１０２において、訓練例入力部１２によって、入力された複数の訓練例、及びサイズＲを受け付け、訓練例データベース２４に格納する。 Next, in step S<b>102, the training example input unit 12 receives the plurality of training examples and the size R that have been input, and stores them in the training example database 24.
次に、ステップＳ１０４において、パラメータ推定部２６によって、上記ステップＳ１００でプログラムデータベース２２に格納された確率論理プログラムと、ステップＳ１０２で訓練例データベース２４に格納された、複数の訓練例と、サイズＲとに基づいて、全ての事実ｆｉ∈Ｆに対する全ての可能な代入の集合の和集合ＬＴを生成し、プログラムデータベース２２に格納する。 Next, in step S104, the parameter estimation unit 26 uses the stochastic logic program stored in the program database 22 in step S100, the plurality of training examples stored in the training example database 24 in step S102, and the size R. Generate a union L T of the sets of all possible substitutions for all the facts f i εF, and store it in the program database 22.
次に、ステップＳ１０６において、パラメータ推定部２６によって、上記ステップＳ１００でプログラムデータベース２２に格納された確率論理プログラムと、ステップＳ１０２で訓練例データベース２４に格納された、複数の訓練例と、サイズＲとに基づいて、確率パラメータの各々の値を推定する。ステップＳ１０６は、図３に示すパラメータ推定処理ルーチンによって実現される。 Next, in step S106, the parameter estimation unit 26 uses the stochastic logic program stored in the program database 22 in step S100, the plurality of training examples stored in the training example database 24 in step S102, and the size R. Estimate each value of the probability parameter based on Step S106 is realized by the parameter estimation processing routine shown in FIG.
ステップＳ１０８において、ステップＳ１０６で確率パラメータの各々の値を推定することにより生成された確率論理プログラムを出力し、処理を終了する。 In step S108, the probability logic program generated by estimating the respective values of the probability parameters in step S106 is output, and the process ends.
[パラメータ推定処理ルーチン] [Parameter estimation processing routine]
次に、上記ステップＳ１０６の処理を説明する。 Next, the process of step S106 will be described.
ステップＳ２００において、確率パラメータｗ０を初期化し、ｋを０に設定する。 In step S200, the probability parameter w 0 is initialized and k is set to 0.
次に、ステップＳ２０２において、上記（２）式の目的関数の勾配∇ｌ(ｗｋ)を計算する。 Next, in step S202, the gradient ∇l(w k ) of the objective function of the equation (2) is calculated.
次に、ステップＳ２０４において、ステップＳ２０２で計算した目的関数の勾配∇ｌ(ｗｋ)を用いて、上記（３）式のように、確率パラメータｘｋを更新する。 Next, in step S204, using the calculated gradient of the objective function ∇l (w k) in step S202, as described above (3), and updates the probability parameter x k.
次に、ステップＳ２０６において、ステップＳ２０４で更新されたｘｋの各要素の値が０以下ならば０に、１以上ならば１に修正する。 Next, in step S206, if the value of each element of x k updated in step S204 is 0 or less, it is corrected to 0, and if it is 1 or more, it is corrected to 1.
次に、ステップＳ２０８において、ｘｋの各要素ｘｉ ｋから、(ｘｉ ｋ−０．５)２の値が小さい順にＲ分だけ選択する。つまり基準値との差が小さい確率パラメータをＲ分だけ選択する。 Next, in step S208, from each element x i k of x k, selects only R component in the order (x i k -0.5) 2 value is less. That is, R probability parameters having a small difference from the reference value are selected.
次に、ステップＳ２１０において、ステップＳ２０８で選択されなかった要素ｘｉ ｋについては、ｘｉ ｋの値がｘｉ ｋ≧０．５ならば０に、ｘｉ ｋ＞０．５ならば１に修正する。 Next, in step S210, the elements x i k which is not selected in step S208, the value of x i k is x i k ≧ 0.5 If 0, the x i k> 0.5 if 1 Fix it.
次に、ステップＳ２１２において、ｗｋ＋１←ｘｋとし、繰り返し終了条件を満たす場合はステップＳ２１６へ移行し、繰り返し終了条件を満たさない場合はステップＳ２１４へ移行する。 Next, in step S212, w k+1 ←x k is set, and if the repeat end condition is satisfied, the process proceeds to step S216, and if the repeat end condition is not satisfied, the process proceeds to step S214.
次に、ステップＳ２１４において、ｋ←ｋ＋１としてステップＳ２０２に戻って処理を繰り返す。 Next, in step S214, k←k+1 is set, the process returns to step S202, and the process is repeated.
ステップＳ２１６において、上記ステップＳ２０４〜Ｓ２０８で推定された確率パラメータの各々に基づいて、ある確率パラメータｗｉがｗｉ＝０であったならば、対応する節を出力する確率論理プログラムから取り除く。また、確率パラメータｗｉ＝１であったならば、Ｆよりｆｉを取り除き、かつＢにｆｉを追加し、確率論理プログラムを生成し処理を終了する。 In step S216, if a certain probability parameter w i is w i =0 based on each of the probability parameters estimated in steps S204 to S208, then the corresponding clause is removed from the probabilistic logic program that outputs it. If the probability parameter w i =1 is satisfied, f i is removed from F, and f i is added to B, a stochastic logic program is generated, and the process ends.
以上説明したように、本発明の実施の形態に係るパラメータ推定装置によれば、複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付け、複数の訓練例と、確率論理プログラムと、サイズとに基づいて、確率論理プログラムのもとでの複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、確率パラメータが付与された事実を表す節の数がサイズ以下となるように、確率論理プログラムの確率パラメータの各々の値を推定することにより、確率論理プログラムで用いられる確率パラメータの数を指定して、確率パラメータを推定することができる。 As described above, according to the parameter estimation device according to the embodiment of the present invention, a plurality of training examples and designation of a size indicating the number of clauses representing the fact to which the probability parameter is given are accepted, Based on the training example, the stochastic logic program, and the size, the objective function representing the negative log likelihood of the appearance probability of the plurality of training examples under the stochastic logic program is minimized, and the probability parameter is The number of probabilistic parameters used in the probabilistic logic program is specified by estimating each value of the probabilistic parameter in the probabilistic logic program so that the number of clauses representing the given facts is equal to or smaller than the size. Can be estimated.
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。 The present invention is not limited to the above-described embodiment, and various modifications and applications are possible without departing from the scope of the present invention.
例えば、本実施の形態のパラメータ推定装置１００は、プログラムデータベース２２及び訓練例データベース２４を備えている場合について説明したが、例えばプログラムデータベース２２及び訓練例データベース２４の少なくとも１つがパラメータ推定装置１００の外部装置に設けられ、パラメータ推定装置１００は、外部装置と通信手段を用いて通信することにより、プログラムデータベース２２及び訓練例データベース２４の少なくとも１つを参照するようにしてもよい。 For example, although the parameter estimation device 100 of the present embodiment has been described as including the program database 22 and the training example database 24, for example, at least one of the program database 22 and the training example database 24 is outside the parameter estimation device 100. The parameter estimation apparatus 100 provided in the apparatus may refer to at least one of the program database 22 and the training example database 24 by communicating with an external apparatus using a communication unit.
例えば、上述のパラメータ推定装置は、内部にコンピュータシステムを有しているが、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。 For example, although the above-described parameter estimation device has a computer system inside, the “computer system” also includes a homepage providing environment (or display environment) if a WWW system is used.
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。 Further, in the specification of the present application, the embodiment in which the program is preinstalled has been described, but the program can be stored in a computer-readable recording medium and provided.
１０ プログラム入力部
１２ 訓練例入力部
２０ 演算部
２２ プログラムデータベース
２４ 訓練例データベース
２６ パラメータ推定部
３０ 出力部
１００ パラメータ推定装置
10 program input unit 12 training example input unit 20 arithmetic unit 22 program database 24 training example database 26 parameter estimation unit 30 output unit 100 parameter estimation device
Claims (5)
前記確率論理プログラムの論理的帰結として導出されるべき事実の集合と、論理的帰結として導出されるべきではない事実の集合とからなる予め用意された複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付ける訓練例入力部と、
前記訓練例入力部によって受け付けた複数の訓練例と、前記確率論理プログラムと、前記サイズとに基づいて、前記確率論理プログラムのもとでの前記複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、前記確率パラメータが付与された事実を表す節の数が前記サイズ以下となるように、前記確率論理プログラムの前記確率パラメータの各々の値を推定するパラメータ推定部と、
を含むパラメータ推定装置。 A probabilistic logic program including a set of clauses representing facts provided with a probability parameter and a set of clauses not provided with probability parameters, and deriving a fact given as a question as a logical consequence. A parameter estimation device for estimating the value of each of the probability parameters used in a stochastic logic program for calculating the probability that is possible,
A plurality of training examples prepared in advance consisting of a set of facts that should be derived as the logical consequences of the stochastic logic program and a set of facts that should not be derived as the logical consequences, and the probability parameters are assigned. Training example input section that accepts the specification of the size that indicates the number of clauses that represent the facts,
Based on the plurality of training examples received by the training example input unit, the probability logic program, and the size, a negative logarithmic likelihood of the appearance probability of the plurality of training examples under the probability logic program. A parameter estimation unit that minimizes the objective function that represents the probability parameter and estimates the value of each of the probability parameters of the probability logic program such that the number of clauses that represent the fact to which the probability parameter is added is equal to or less than the size. When,
A parameter estimation device including.
訓練例入力部が、前記確率論理プログラムの論理的帰結として導出されるべき事実の集合と、論理的帰結として導出されるべきではない事実の集合とからなる予め用意された複数の訓練例と、前記確率パラメータが付与された事実を表す節の数を示すサイズの指定とを受け付けるステップと、
パラメータ推定部が、前記訓練例入力部によって受け付けた複数の訓練例と、前記確率論理プログラムと、前記サイズとに基づいて、前記確率論理プログラムのもとでの前記複数の訓練例の出現確率の負の対数尤度を表す目的関数を最小化し、かつ、前記確率パラメータが付与された事実を表す節の数が前記サイズ以下となるように、前記確率論理プログラムの前記確率パラメータの各々の値を推定するステップと、
を含むパラメータ推定方法。 A probabilistic logic program including a set of clauses representing facts provided with probability parameters and a set of clauses not provided with probability parameters, and deriving facts given as questions as logical consequences A parameter estimation method in a parameter estimation device for estimating the value of each of the probability parameters used in a stochastic logic program for calculating the probability that is possible,
A training example input unit, a plurality of training examples prepared in advance consisting of a set of facts that should be derived as a logical consequence of the stochastic logic program, and a set of facts that should not be derived as a logical consequence, Receiving a designation of a size indicating the number of clauses representing the fact to which the probability parameter is given,
Parameter estimation unit, based on the plurality of training examples received by the training example input unit, the probability logic program, and the size of the appearance probability of the plurality of training examples under the probability logic program The value of each of the probability parameters of the stochastic logic program is set so that the objective function representing the negative logarithmic likelihood is minimized and the number of clauses representing the fact to which the probability parameter is given is equal to or smaller than the size. The step of estimating,
Parameter estimation method including.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017187870A JP6745507B2 (en) | 2017-09-28 | 2017-09-28 | Parameter estimation device, method, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017187870A JP6745507B2 (en) | 2017-09-28 | 2017-09-28 | Parameter estimation device, method, and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019061623A JP2019061623A (en) | 2019-04-18 |
| JP6745507B2 true JP6745507B2 (en) | 2020-08-26 |
Family
ID=66178212
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017187870A Active JP6745507B2 (en) | 2017-09-28 | 2017-09-28 | Parameter estimation device, method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6745507B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7464946B2 (en) | 2021-01-29 | 2024-04-10 | 日本電信電話株式会社 | Logic program estimation device, logic program estimation method, and program |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6190771B2 (en) * | 2014-07-07 | 2017-08-30 | 日本電信電話株式会社 | Parameter estimation method, apparatus, and program |
| JP6498107B2 (en) * | 2015-11-30 | 2019-04-10 | 日本電信電話株式会社 | Classification apparatus, method, and program |
| JP6703264B2 (en) * | 2016-06-22 | 2020-06-03 | 富士通株式会社 | Machine learning management program, machine learning management method, and machine learning management device |
-
2017
- 2017-09-28 JP JP2017187870A patent/JP6745507B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2019061623A (en) | 2019-04-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9390383B2 (en) | Method for an optimizing predictive model using gradient descent and conjugate residuals | |
| Rumí et al. | Approximate probability propagation with mixtures of truncated exponentials | |
| Sudarshan et al. | Deep direct likelihood knockoffs | |
| JP2016161968A (en) | Word vector learning device, natural language processing device, method, and program | |
| Friel et al. | Exploiting multi-core architectures for reduced-variance estimation with intractable likelihoods | |
| JP6745507B2 (en) | Parameter estimation device, method, and program | |
| Pilipovic et al. | Parameter estimation in nonlinear multivariate stochastic differential equations based on splitting schemes | |
| JP6190771B2 (en) | Parameter estimation method, apparatus, and program | |
| JP2012160015A (en) | Similar node retrieval device and method, and program | |
| JP6465440B2 (en) | Analysis apparatus, method, and program | |
| JP2019028484A (en) | Attribute identification apparatus, attribute identification model learning apparatus, method and program | |
| JPWO2015068330A1 (en) | Model estimation apparatus, model estimation method, and model estimation program | |
| Borboudakis et al. | Scoring and searching over Bayesian networks with causal and associative priors | |
| CN107562727B (en) | Short text feature extension method based on Bayesian network | |
| JP5555238B2 (en) | Information processing apparatus and program for Bayesian network structure learning | |
| Hallmann et al. | All solutions of the stochastic fixed point equation of the Quicksort process | |
| Cheng | Sampler scheduler for diffusion models | |
| JP5956359B2 (en) | Parameter estimation method, apparatus, and program | |
| JP6452580B2 (en) | Parameter estimation method, apparatus, and program | |
| KR101820635B1 (en) | The method of knowledge diagnosis using knowledge map based on ontology | |
| Schmidt et al. | Handling inconsistencies in the revision of probability distributions | |
| JP6558860B2 (en) | Estimation device, prediction device, method, and program | |
| Wright et al. | Bayesian networks, total variation and robustness | |
| Chen et al. | Detecting change-points in epidemic models | |
| Aldahmani et al. | Unbiased estimation for linear regression when n< v |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170929 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190819 |
|
| TRDD | Decision of grant or rejection written | ||
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200715 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200721 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200727 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6745507 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |