JP2013161359A - Advertisement evaluation apparatus, advertisement evaluation method, and program - Google Patents

Advertisement evaluation apparatus, advertisement evaluation method, and program Download PDF

Info

Publication number
JP2013161359A
JP2013161359A JP2012024276A JP2012024276A JP2013161359A JP 2013161359 A JP2013161359 A JP 2013161359A JP 2012024276 A JP2012024276 A JP 2012024276A JP 2012024276 A JP2012024276 A JP 2012024276A JP 2013161359 A JP2013161359 A JP 2013161359A
Authority
JP
Japan
Prior art keywords
advertisement
value
probability
evaluation
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012024276A
Other languages
Japanese (ja)
Other versions
JP5425941B2 (en
Inventor
Kobashikawa Carlos
カルロス コバシカワ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2012024276A priority Critical patent/JP5425941B2/en
Publication of JP2013161359A publication Critical patent/JP2013161359A/en
Application granted granted Critical
Publication of JP5425941B2 publication Critical patent/JP5425941B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

PROBLEM TO BE SOLVED: To accurately evaluate advertisement.SOLUTION: A histogram creation unit 232 calculates, for each advertisement, a predicted CTR (Click-Through Rate) from the numbers of click logs and impression logs corresponding to advertisement ID representing the advertisement, and creates a histogram of the predicted CTR. An advertisement evaluation calculation unit 233 counts, for an advertisement subject to the evaluation, the clock logs and the impression logs to define them as the number of clicks and the number of actions, calculates an expectation value or a mode value of a post-learning distribution that is obtained by multiplying the histogram by posterior distribution by Bayes' estimation, as an estimate of the CTR, and defines the estimate or a value obtained by multiplying a bidding price by the estimate, as an advertisement evaluation value.

Description

本発明は、広告評価装置、広告評価方法およびプログラムに関する。   The present invention relates to an advertisement evaluation device, an advertisement evaluation method, and a program.

Webページに表示される広告のクリック率(CTR;Click Through Rateとも呼ばれる。)は広告によって異なることから、広告の評価値としてCTRが用いられることがある。広告を正しく評価するためにはクリック率を正確に推定する必要があるため、過去の実績から算出したCTRの補正が求められることがある。たとえば、特許文献1では露出数による加重値を用いてCTRを補正することが行われている。   Since the click rate (also referred to as CTR; Click Through Rate) of an advertisement displayed on a web page varies depending on the advertisement, CTR may be used as an evaluation value of the advertisement. Since it is necessary to accurately estimate the click rate in order to correctly evaluate the advertisement, correction of CTR calculated from past results may be required. For example, in Patent Document 1, CTR is corrected using a weighted value based on the number of exposures.

特開2009−48634号公報JP 2009-48634 A

しかしながら、特許文献1においても、あくまで過去のクリック数を露出数で割った値をCTRとして用いることが前提となっており、特に表示回数が少ない間は正確なクリック率を把握することが難しく、広告を過大あるいは過小に評価してしまうことがあった。   However, even in Patent Document 1, it is assumed that a value obtained by dividing the number of past clicks by the number of exposures is used as a CTR, and it is difficult to grasp an accurate click rate especially when the number of display times is small. In some cases, advertisements were overestimated or underestimated.

本発明は、このような背景を鑑みてなされたものであり、広告の評価を正確に行うことのできる、広告評価装置、広告評価方法およびプログラムを提供することを目的とする。   The present invention has been made in view of such a background, and an object thereof is to provide an advertisement evaluation device, an advertisement evaluation method, and a program that can accurately evaluate an advertisement.

上記課題を解決するための本発明の主たる発明は、広告を評価する装置であって、評価対象の広告である評価広告を表示した表示回数を取得する表示回数取得部と、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得する行動回数取得部と、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成する確率分布作成部と、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得する行動率取得部と、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出する代表値算出部と、前記代表値に応じて前記広告の評価値を決定する広告評価部と、を備えることとする。   A main invention of the present invention for solving the above-described problem is an apparatus for evaluating an advertisement, and a display number acquisition unit that acquires a display number of times of displaying an evaluation advertisement that is an advertisement to be evaluated, and according to the evaluation advertisement Based on the number of actions and the number of times of display, the probability distribution of the probability that the viewer will take the action in response to the advertisement is created based on the number of actions acquired by the viewer For each display advertisement that is an advertisement that has been displayed in the past, a probability distribution creation section, an action rate acquisition section that acquires an action rate that is a rate at which a viewer has acted according to the display advertisement, and A representative value calculating unit that corrects the probability distribution according to frequency, calculates a representative value of the corrected probability distribution, and an advertisement evaluation unit that determines an evaluation value of the advertisement according to the representative value. And

また、本発明の広告評価装置では、前記代表値算出部は、前記確率分布における確率密度に前記頻度を乗じることにより前記確率分布を補正するようにしてもよい。   In the advertisement evaluation device of the present invention, the representative value calculation unit may correct the probability distribution by multiplying the probability density in the probability distribution by the frequency.

また、本発明の広告評価装置では、前記確率分布作成部は、所定のベータ分布Be(a、b)を事前分布とした前記行動回数および前記表示回数の場合における前記確率のベイズ推定による事後分布であるベータ分布Be(行動数+a,表示回数−行動数+b)を作成し、前記代表値算出部は、前記確率の区間ごとに前記行動率の前記頻度を算出し、前記区間のそれぞれについて、当該区間に対応する前記頻度と、次の前記区間に対応する前記頻度との差を算出し、前記区間のそれぞれについて、正規化不完全ベータ関数に、前記区間内の最大の前記確率、前記行動回数にaを加算した第1パラメータ、および前記表示回数から前記行動回数を引いた値にbを加算した第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を除数とし、前記区間のそれぞれについて前記正規化不完全ベータ関数に、前記最大の確率、前記第1パラメータに1を加算した値および前記第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を被除数とする除算結果と、前記事後分布の期待値とを乗じて前記代表値を算出するようにしてもよい。   Further, in the advertisement evaluation device according to the present invention, the probability distribution creation unit includes a posterior distribution by Bayes estimation of the probability in the case of the number of actions and the number of times of display with a predetermined beta distribution Be (a, b) as a prior distribution. A beta distribution Be (number of actions + a, number of display times−number of actions + b) is created, and the representative value calculation unit calculates the frequency of the action rate for each interval of the probability, and for each of the intervals, The difference between the frequency corresponding to the interval and the frequency corresponding to the next interval is calculated, and for each of the intervals, the maximum probability in the interval, the action, and the normalized incomplete beta function are calculated. A value obtained by multiplying a value obtained by adding a first parameter obtained by adding a to the number of times and a second parameter obtained by adding b to the value obtained by subtracting the number of actions from the number of times displayed is the divisor. For each of the intervals, the normalized incomplete beta function is multiplied by the maximum probability, a value obtained by adding 1 to the first parameter, and a value given the second parameter by the difference corresponding to the interval. The representative value may be calculated by multiplying the division result with the obtained value as the dividend and the expected value of the posterior distribution.

また、本発明の広告評価装置では、前記代表値算出部は、前記確率の区間ごとに前記行動率の前記頻度を算出し、前記確率分布の最頻値を算出し、前記最頻値に対応する前記確率分布の確率密度に、前記最頻値に対応する前記頻度を乗じた第1値を算出し、前記区間内の最大の前記確率である右側確率が前記最頻値よりも小さい前記区間について、前記右側確率に対応する前記確率密度に、前記右側確率に対応する前記頻度を乗じた第2値を算出し、前記区間内の最小の前記確率である左側確率が前記最頻値よりも大きい前記区間について、前記左側確率に対応する前記確率密度に、前記左側確率に対応する前記頻度を乗じた第3値を算出し、前記第1値、前記第2値および前記第3値の中の最大値に対応する前記確率を前記代表値として決定するようにしてもよい。   In the advertisement evaluation device of the present invention, the representative value calculation unit calculates the frequency of the activity rate for each probability interval, calculates a mode value of the probability distribution, and corresponds to the mode value The first value obtained by multiplying the probability density of the probability distribution by the frequency corresponding to the mode value is calculated, and the right side probability that is the maximum probability in the section is smaller than the mode value. A second value obtained by multiplying the probability density corresponding to the right probability by the frequency corresponding to the right probability, and the left probability that is the minimum probability in the interval is greater than the mode value. For the large interval, a third value obtained by multiplying the probability density corresponding to the left probability by the frequency corresponding to the left probability is calculated, and among the first value, the second value, and the third value, The probability corresponding to the maximum value is determined as the representative value. It may be.

また、本発明の他の態様は、広告を評価する方法であって、コンピュータが、評価対象の広告である評価広告を表示した表示回数を取得するステップと、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、前記代表値に応じて前記広告の評価値を決定するステップと、を実行することとする。   According to another aspect of the present invention, there is provided a method for evaluating an advertisement, in which a computer acquires a display count for displaying an evaluation advertisement that is an advertisement to be evaluated, and a viewer responds to the evaluation advertisement. A step of acquiring the number of actions that caused an action; a step of creating a probability distribution of a probability that the viewer will take the action according to the advertisement based on the number of actions and the display number; For each display advertisement that is a displayed advertisement, a step of obtaining an action rate that is a rate at which a viewer has acted according to the display advertisement, and correcting the probability distribution according to the frequency of the action rate, and the correction The step of calculating the representative value of the probability distribution and the step of determining the evaluation value of the advertisement according to the representative value are executed.

また、本発明の他の態様は、広告を評価するためのプログラムであって、コンピュータに、評価対象の広告である評価広告を表示した表示回数を取得するステップと、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、前記代表値に応じて前記広告の評価値を決定するステップと、を実行させることとする。   According to another aspect of the present invention, there is provided a program for evaluating an advertisement, the step of obtaining a display count of displaying an evaluation advertisement as an advertisement to be evaluated on a computer, and browsing according to the evaluation advertisement Obtaining the number of actions that a person has taken action, creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the number of actions and the number of displays, and in the past For each display advertisement that is a displayed advertisement, a step of obtaining an action rate that is a rate at which a viewer has acted according to the display advertisement, and correcting the probability distribution according to the frequency of the action rate, A step of calculating a representative value of the corrected probability distribution and a step of determining an evaluation value of the advertisement according to the representative value are executed.

その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。   Other problems and solutions to be disclosed by the present application will be made clear by the embodiments of the invention and the drawings.

本発明によれば、広告の評価を正確に行うことができる。   According to the present invention, it is possible to accurately evaluate an advertisement.

本実施形態の広告システムにおいて表示されるWebページ1の一例を示す図である。It is a figure which shows an example of the web page 1 displayed in the advertising system of this embodiment. 事後確率分布Be(3,9)を示すグラフである。It is a graph which shows posterior probability distribution Be (3, 9). 等幅区間の予測CTRのヒストグラムの一例を示す図である。It is a figure which shows an example of the histogram of prediction CTR of a uniform width area. 等幅でない区間の予測CTRのヒストグラムの一例を示す図である。It is a figure which shows an example of the histogram of the prediction CTR of the area which is not equal width. ヒストグラム、事後分布および学習後分布をプロットしたグラフである。It is the graph which plotted the histogram, posterior distribution, and post-learning distribution. ヒストグラムから作成された差の関数gを表す分布図である。It is a distribution diagram showing the function g of the difference created from the histogram. 本実施形態の広告配信システムの全体構成を示す図である。It is a figure which shows the whole structure of the advertisement delivery system of this embodiment. Webサーバ20のハードウェア構成例を示す図である。2 is a diagram illustrating a hardware configuration example of a Web server 20. FIG. Webサーバ20のソフトウェア構成例を示す図である。3 is a diagram illustrating an example of a software configuration of a Web server 20. FIG. 広告データベース252に記憶される広告情報の構成例を示す図である。It is a figure which shows the structural example of the advertisement information memorize | stored in the advertisement database. インプレッションログ記憶部253に記憶されるインプレッションログの構成例を示す図である。It is a figure which shows the structural example of the impression log memorize | stored in the impression log memory | storage part 253. クリックログ記憶部254に記憶されるクリックログの構成例を示す図である。6 is a diagram illustrating a configuration example of a click log stored in a click log storage unit 254. FIG. Webサーバ20により行われる処理の流れを示す図である。FIG. 4 is a diagram showing a flow of processing performed by a Web server 20. ステップS405における広告の選択処理の流れを示す図である。It is a figure which shows the flow of the selection process of the advertisement in step S405. 代表値として期待値を用いる場合における広告評価値算出処理の流れを示す図である。It is a figure which shows the flow of the advertisement evaluation value calculation process in the case of using expected value as a representative value. 代表値として最頻値を用いる場合における広告評価値算出処理の流れを示す図である。It is a figure which shows the flow of the advertisement evaluation value calculation process in the case of using the mode value as a representative value. 連続的なヒストグラム関数を用いる場合における学習後分布の最頻値CTRを算出する処理の流れを示す図である。It is a figure which shows the flow of the process which calculates the mode CTR of the distribution after learning in the case of using a continuous histogram function.

==(1)発明の概要==
以下、本発明の一実施形態に係る広告配信システムについて説明する。本実施形態において広告とは、Webページにおいて、コンテンツの内容等に応じて表示される広告(リスティング広告と呼ばれる。)を想定する。図1は本実施形態の広告システムにおいて表示されるWebページ1の一例を示す図である。Webページ1には、各種のコンテンツ(図1の例ではトピックスとして表示されている。)とともに、複数の広告2が表示される。本実施形態では、Webページ1を表示させるための情報(以下、画面情報という。)に、評価値の高い順に所定数(図1の例では3つ)の広告2を入れて送信することを想定している。
== (1) Summary of Invention ==
Hereinafter, an advertisement distribution system according to an embodiment of the present invention will be described. In the present embodiment, an advertisement is assumed to be an advertisement (referred to as a listing advertisement) that is displayed on a Web page according to the content or the like. FIG. 1 is a diagram showing an example of a web page 1 displayed in the advertising system of the present embodiment. A plurality of advertisements 2 are displayed on the Web page 1 together with various contents (displayed as topics in the example of FIG. 1). In the present embodiment, a predetermined number (three in the example of FIG. 1) of advertisements 2 are inserted into information for displaying the Web page 1 (hereinafter referred to as screen information) in descending order of evaluation value and transmitted. Assumed.

本実施形態の広告配信システムは、評価の高い広告を優先的に配信することにより広告効果を高めようとするものである。広告の評価を示す指標(以下、広告評価値という。)としては、クリック率(CTR)や広告収益(eCPM=CTR×入札額)などがよく用いられている。本実施形態の広告配信システムでは、広告がクリックされる確率(クリック率)についてのベイズ推定による事後分布を補正したものの代表値をクリック率の推定値とし、この推定値そのものまたは推定値に入札額を乗じたeCPMを広告評価値とする。代表値としては、最頻値または平均値(期待値)を用いる。事後分布の補正は、過去の実績における各広告のCTRについてのヒストグラムに基づいて行われる。   The advertisement distribution system according to the present embodiment is intended to enhance the advertising effect by preferentially distributing advertisements with high evaluation. As an index indicating an advertisement evaluation (hereinafter referred to as an advertisement evaluation value), a click rate (CTR), advertisement profit (eCPM = CTR × bid amount), and the like are often used. In the advertisement distribution system according to the present embodiment, a representative value is obtained by correcting the posterior distribution by Bayesian estimation for the click probability (click rate) of the advertisement, and the estimated value of the click rate is used. The eCPM multiplied by is set as the advertisement evaluation value. As the representative value, a mode value or an average value (expected value) is used. The correction of the posterior distribution is performed based on the histogram of CTR of each advertisement in the past performance.

==(2)ベイズ推定==
本実施形態において、事前分布は理由不十分の原理から一様分布のベータ分布Be(1,1)であるものとする。ある広告をn回配信してr回クリックされた場合には、事後分布はBe(1+r,1+n−r)となる。以下の説明において、広告が配信された回数nを表示回数といい、クリックされた回数rをクリック数という。また、事後分布のパラメータはα,β(α=1+クリック数、β=1+表示回数−クリック数)と表記する。
このときのベータ分布の最頻値は、クリック数÷表示回数であり、いわゆるクリック率(CTR)と一致する。
== (2) Bayesian estimation ==
In this embodiment, the prior distribution is assumed to be a beta distribution Be (1, 1) having a uniform distribution from the principle of insufficient reason. When an advertisement is distributed n times and clicked r times, the posterior distribution becomes Be (1 + r, 1 + n−r). In the following description, the number n of times an advertisement has been distributed is referred to as a display number, and the number of clicks r is referred to as a click number. The parameters of the posterior distribution are expressed as α, β (α = 1 + number of clicks, β = 1 + number of display times−number of clicks).
The mode value of the beta distribution at this time is the number of clicks divided by the number of times of display, which matches the so-called click rate (CTR).

また、上記ベータ分布の期待値を、当該広告のクリック率の期待値(以下、xCTR(eXpected Click Through Rate)と表記する。)として算出する。
ベータ分布Be(α,β)の期待値(xCTR)はα÷(α+β)であるので、上記事後確率分布においてxCTRは次式により求められる。
xCTR=(1+クリック数)÷(2+表示回数) ・・・(E1)
Further, the expected value of the beta distribution is calculated as an expected value of the click rate of the advertisement (hereinafter referred to as xCTR (eXpected Click Through Rate)).
Since the expected value (xCTR) of the beta distribution Be (α, β) is α ÷ (α + β), the xCTR in the posterior probability distribution is obtained by the following equation.
xCTR = (1 + click count) ÷ (2 + display count) (E1)

図2は、ある広告Aが表示された回数(表示回数、インプレッション数とも呼ばれる。)が10回であり、広告Aがクリックされた数(クリック数)が2である場合の事後確率分布Be(1+2,1+10−2)=Be(3,9)を示すグラフである。ここでCTR=クリック数÷表示回数=2÷10=0.2となり、xCTR=Be(3,9)の期待値=(1+2)÷(10+2)=0.25となる。   FIG. 2 shows the posterior probability distribution Be () when the number of times an advertisement A is displayed (also called the number of display times and the number of impressions) is 10, and the number of clicks on the advertisement A (the number of clicks) is 2. 1 + 2, 1 + 10−2) = Be (3, 9). Here, CTR = click number / display count = 2 ÷ 10 = 0.2, and xCTR = Be (3,9) expected value = (1 + 2) ÷ (10 + 2) = 0.25.

==(4)CTRのヒストグラム==
上述したように本実施形態では、CTRの実績値(以下、予測CTRという。)の頻度を示すヒストグラムに基づいて事後分布を補正する。ヒストグラムの作成方法には一般的なものを採用することができる。たとえば、各広告について、広告がクリックされた回数(クリック数)を広告が表示された回数(表示回数)で割って予測CTRを算出し、これを所定の区間ごとに頻度を集計して離散的なヒストグラム関数を作成することができる。なお、ヒストグラムは図3のように等幅区間とせずに各区間に任意の幅を持たせるようにしてもよい。図3に、0.01%の等幅区間のCTRごとに、CTRがこの区間に入る広告数を集計したヒストグラムの一例を示す。また図4に、区間によって幅の異なるヒストグラムの一例を示す。
== (4) CTR histogram ==
As described above, in this embodiment, the posterior distribution is corrected based on the histogram indicating the frequency of the actual value of CTR (hereinafter referred to as predicted CTR). A general method can be employed as a method of creating the histogram. For example, for each advertisement, a predicted CTR is calculated by dividing the number of times the advertisement is clicked (number of clicks) by the number of times the advertisement is displayed (number of times displayed). A simple histogram function can be created. Note that the histogram may have an arbitrary width in each section instead of the equal width section as shown in FIG. FIG. 3 shows an example of a histogram in which the number of advertisements in which the CTR enters this section is tabulated for each CTR of the equal width section of 0.01%. FIG. 4 shows an example of a histogram having a different width depending on the section.

このようなヒストグラムの頻度h(CTR)を事後分布Be(α,β)に乗じて補正した分布(以下、学習後分布という。)L(h;α,β)を作成し、学習後分布L(h;α,β)の代表値に基づいて広告の評価値が算出される。   A distribution (hereinafter referred to as post-learning distribution) L (h; α, β) obtained by multiplying the histogram frequency h (CTR) by the posterior distribution Be (α, β) to create a post-learning distribution L An advertisement evaluation value is calculated based on the representative value of (h; α, β).

図5は、図4のヒストグラム3、事後分布4および学習後分布5をプロットしたグラフである。学習後分布5は、事後分布4にヒストグラム3を乗じた値となっており、この最頻値(=CTR)または期待値(=xCTR)に応じて広告の評価値が算出される。   FIG. 5 is a graph in which the histogram 3, the posterior distribution 4 and the post-learning distribution 5 of FIG. 4 are plotted. The post-learning distribution 5 is a value obtained by multiplying the posterior distribution 4 by the histogram 3, and the evaluation value of the advertisement is calculated according to the mode value (= CTR) or the expected value (= xCTR).

==(4)xCTRの推定==
学習後分布L(h;α,β)は、予測CTRをxとして次式(E2)で表される。

Figure 2013161359
なお、Kは、学習後分布Lの面積を1に正規化するための定数である。 == (4) xCTR estimation ==
The post-learning distribution L (h; α, β) is expressed by the following equation (E2) where the predicted CTR is x.
Figure 2013161359
K is a constant for normalizing the area of the post-learning distribution L to 1.

ここで、代表値として期待値(xCTR)を採用する場合、xCTRは次式により算出されることになる。

Figure 2013161359
ここで、区間iの頻度をhとし、式E3の分母に係る区間iの面積は、次式E4により求められる。
Figure 2013161359
これは、不完全ベータ関数B(d;α,β)から不完全ベータ関数B(di−1;α,β)を引いたものに、頻度hおよび1/B(α,β)を乗じたこととなり、次式E5に変形できる。
Figure 2013161359
式E3の分子に係る区間iについても同様に次式E5’を求めることができる。
Figure 2013161359
したがって、上記式E3は、次式E6のように書き換えることができる。
Figure 2013161359
ここで、不完全ベータ関数B(0;α,β)=0であるので、式E6はさらに次式E7のように変形できる。
Figure 2013161359
なお、最終区間Nの次の区間N+1の頻度hN+1=0である。 Here, when the expected value (xCTR) is adopted as the representative value, xCTR is calculated by the following equation.
Figure 2013161359
Here, the frequency of the section i is h i, and the area of the section i related to the denominator of the expression E3 is obtained by the following expression E4.
Figure 2013161359
This incomplete beta function B (d i; α, β ) incomplete beta function B (d i-1; α , β) minus the frequency h i and 1 / B (α, β) Can be transformed into the following equation E5.
Figure 2013161359
Similarly, the following equation E5 ′ can be obtained for the interval i related to the numerator of the equation E3.
Figure 2013161359
Therefore, the above equation E3 can be rewritten as the following equation E6.
Figure 2013161359
Here, since the incomplete beta function B (0; α, β) = 0, the expression E6 can be further transformed into the following expression E7.
Figure 2013161359
Note that the frequency h N + 1 of the section N + 1 next to the last section N is zero.

区間iの頻度hから区間i+1の頻度hi+1を引いた差をg(i)とする。図6は、図4のヒストグラムhから作成された差の関数g(i)を表す分布図である。正規化不完全ベータ関数Iθ(α,β)=B(θ;α,β)÷B(α,β)であるので、式E7はさらに式E8に変形できる。

Figure 2013161359
以上より、式E1で算出される事後確率分布の期待値をxCTR(α,β)、学習後分布の期待値をxCTR(g;α,β)とすると、xCTR(g;α,β)は次式(E9)により求められることになる。
Figure 2013161359
すなわち、区間iにおけるCTRの最大値をdとし、正規化不完全ベータ関数Idi(α,β)に差g(i)を乗算した値を全ての区間について合計した値を除数とし、正規化不完全ベータ関数Idi(α+1,β)に差g(i)を乗算したものを全ての区間について合計した値を被除数とした除算結果が期待値xCTR(g;α,β)となる。 A difference obtained by subtracting the frequency h i + 1 of the section i + 1 from the frequency h i of the section i is defined as g (i). FIG. 6 is a distribution diagram representing the difference function g (i) created from the histogram h of FIG. Since the normalized incomplete beta function I θ (α, β) = B (θ; α, β) ÷ B (α, β), equation E7 can be further transformed into equation E8.
Figure 2013161359
From the above, if the expected value of the posterior probability distribution calculated by the equation E1 is xCTR (α, β) and the expected value of the post-learning distribution is xCTR (g; α, β), xCTR (g; α, β) is It is obtained by the following equation (E9).
Figure 2013161359
That is, the maximum value of CTR in interval i is denoted by d i , the value obtained by multiplying the normalized incomplete beta function I di (α, β) by the difference g (i) for all intervals is taken as a divisor, A division result obtained by dividing a value obtained by multiplying the difference incomplete beta function I di (α + 1, β) by the difference g (i) for all the intervals becomes an expected value xCTR (g; α, β).

上記式(E9)により算出される期待値xCTR(g;α,β)またはこのxCTR(g;α,β)に入札額を乗じたxCPM(g;α,β)が広告の評価値として用いられる。   The expected value xCTR (g; α, β) calculated by the above formula (E9) or xCPM (g; α, β) obtained by multiplying this xCTR (g; α, β) by the bid amount is used as the evaluation value of the advertisement. It is done.

==(5)CTRの推定==
ヒストグラムの頻度h(CTR)は階段状であり、ある区間iの最大値dにおける頻度h(d)と、次の区間i+1の最小値cにおける頻度h(c)との間には差が生じる。したがって、上記式(E2)から、学習後分布L(h;α,β)においても、図5に示されるように、区間の最小値cまたは最大値dにおいて大きな変化が生じることになる。また、たとえばヒストグラムの頻度h(CTR)にばらつきがない場合などには、事後分布Be(α,β)の最頻値に対応するCTRと、学習後分布L(h;α,β)の最頻値に対応するCTRとが一致することになる。したがって、学習後分布L(h;α,β)における最頻値は、CTRが、事後分布Be(α,β)の最頻値に対応するCTRであるとき、または、ヒストグラムにおける区間内の最小値または最大値のときである。
== (5) CTR estimation ==
The frequency h (CTR) of the histogram is stepwise, and is between the frequency h (d i ) at the maximum value d i in a certain section i and the frequency h (c i ) at the minimum value c i in the next section i + 1. Makes a difference. Therefore, from the above formula (E2), also in the post-learning distribution L (h; α, β), as shown in FIG. 5, a large change occurs in the minimum value c i or the maximum value d i of the section. . For example, when there is no variation in the histogram frequency h (CTR), the CTR corresponding to the mode of the posterior distribution Be (α, β) and the maximum of the post-learning distribution L (h; α, β) are used. The CTR corresponding to the frequent value matches. Therefore, the mode value in the post-learning distribution L (h; α, β) is the minimum value in the interval in the histogram when the CTR is the CTR corresponding to the mode value of the posterior distribution Be (α, β). When the value or maximum value.

図5に示すように、事後分布4の最頻値に対応するCTRをmとした場合、mが含まれるヒストグラム3の区間において、学習後分布5においても確率密度の微分値が0となって最頻値となりうる。また、CTRがmよりも小さい場合、学習後分布5の確率密度は、ヒストグラム3の各区間内ではCTRが大きいほど大きくなるので、CTRが区間iの最大値(以下、右側CTRという。本発明の右側確率に該当する。)dである場合に学習後分布5の最頻値となりうる。逆にCTRがmよりも大きい場合、学習後分布5の確率密度は、ヒストグラム3の各区間内ではCTRが大きいほど小さくなるので、CTRが区間iの最小値(以下、左側CTRという。本発明の左側確率に該当する。)cである場合に学習後分布5の最頻値となりうる。したがって、学習後分布5における最頻値CTR(h;α,β)は、事後分布4の最頻値mに一致するCTR、mより小さい右側CTRd、およびmより大きい左側CTRcについてのみ、ヒストグラム関数hにより重み付けを行った確率密度が最大となる場合のCTRであり、学習後分布5における最頻値CTR(h;α,β)は、次式(E10)により算出される。

Figure 2013161359
As shown in FIG. 5, when the CTR corresponding to the mode value of the posterior distribution 4 is m, the probability density differential value is 0 in the post-learning distribution 5 in the section of the histogram 3 including m. It can be the mode. When the CTR is smaller than m, the probability density of the post-learning distribution 5 increases as the CTR increases in each section of the histogram 3, so that the CTR is the maximum value of the section i (hereinafter referred to as the right CTR). If it is d i , it can be the mode value of the post-learning distribution 5. Conversely, when CTR is larger than m, the probability density of the post-learning distribution 5 decreases as the CTR increases in each section of the histogram 3, so that the CTR is the minimum value of the section i (hereinafter referred to as the left CTR). If it is c i , it can be the mode value of the post-learning distribution 5. Therefore, the mode value CTR (h; α, β) in the post-learning distribution 5 is only for the CTR that matches the mode value m of the posterior distribution 4, the right side CTRd i smaller than m, and the left side CTRc i larger than m. This is the CTR when the probability density weighted by the histogram function h is maximized, and the mode value CTR (h; α, β) in the post-learning distribution 5 is calculated by the following equation (E10).
Figure 2013161359

上記式(E10)により算出される最頻値CTR(h;α,β)またはこのCTR(h;α,β)に入札額を乗じたeCPM(h;α,β)が広告の評価値として用いられる。   The mode value CTR (h; α, β) calculated by the above formula (E10) or eCPM (h; α, β) obtained by multiplying the CTR (h; α, β) by the bid amount is used as the evaluation value of the advertisement. Used.

==(6)システム構成==
図7は本実施形態の広告配信システムの全体構成を示す図である。本実施形態の広告配信システムは、ユーザ端末10と通信ネットワーク30を介して通信可能に接続されるWebサーバ20を含んで構成される。
== (6) System Configuration ==
FIG. 7 is a diagram showing the overall configuration of the advertisement distribution system of this embodiment. The advertisement distribution system according to the present embodiment includes a Web server 20 that is communicably connected to the user terminal 10 via a communication network 30.

通信ネットワーク30は、例えば公衆電話回線網や専用通信回線網、携帯電話回線網、無線通信網、イーサネット(登録商標)などにより構築される、インターネットやLAN(Local Area Network)である。   The communication network 30 is, for example, the Internet or a LAN (Local Area Network) constructed by a public telephone line network, a dedicated communication line network, a mobile phone line network, a wireless communication network, Ethernet (registered trademark), or the like.

Webサーバ20は、画像や動画、テキストなどの各種のコンテンツをHTTP(HyperText Transfer Protocol)に従って提供する、例えばワークステーションやパーソナルコンピュータなどのコンピュータである。ユーザ端末10は、Webサーバ20が提供する各種のWebページを閲覧するブラウザを動作させる、例えばパーソナルコンピュータやタブレットコンピュータ、携帯電話端末、PDA(Personal Digital Assistant)などのコンピュータである。   The Web server 20 is a computer such as a workstation or a personal computer that provides various contents such as images, moving images, and texts according to HTTP (HyperText Transfer Protocol). The user terminal 10 is a computer such as a personal computer, a tablet computer, a mobile phone terminal, or a PDA (Personal Digital Assistant) that operates a browser for browsing various Web pages provided by the Web server 20.

==(7)Webサーバ20のハードウェア構成==
図8はWebサーバ20のハードウェア構成例を示す図である。Webサーバ20は、CPU201、メモリ202、記憶装置203、通信インタフェース204、入力装置205、出力装置206を備える。記憶装置203は、各種のデータやプログラムを記憶する、例えばハードディスクドライブやソリッドステートドライブ、フラッシュメモリなどである。通信インタフェース204は、通信ネットワーク30に接続するためのインタフェースであり、例えばイーサネット(登録商標)に接続するためのアダプタ、公衆電話回線網に接続するためのモデム、無線通信を行うための無線通信機、シリアル通信のためのUSB(Universal Serial Bus)コネクタやRS232Cコネクタなどである。入力装置205は、データを入力する、例えばキーボードやマウス、タッチパネル、ボタン、マイクロフォンなどである。出力装置206は、データを出力する、例えばディスプレイやプリンタ、スピーカなどである。
== (7) Hardware Configuration of Web Server 20 ==
FIG. 8 is a diagram illustrating a hardware configuration example of the Web server 20. The Web server 20 includes a CPU 201, a memory 202, a storage device 203, a communication interface 204, an input device 205, and an output device 206. The storage device 203 is, for example, a hard disk drive, a solid state drive, or a flash memory that stores various data and programs. The communication interface 204 is an interface for connecting to the communication network 30, for example, an adapter for connecting to Ethernet (registered trademark), a modem for connecting to a public telephone line network, and a wireless communication device for performing wireless communication A USB (Universal Serial Bus) connector for serial communication, an RS232C connector, or the like. The input device 205 is, for example, a keyboard, a mouse, a touch panel, a button, or a microphone that inputs data. The output device 206 is, for example, a display, a printer, or a speaker that outputs data.

==(8)Webサーバ20のソフトウェア構成==
図9はWebサーバ20のソフトウェア構成例を示す図である。Webサーバ20は、HTTP処理部211、Webページ作成部212、広告選択部213、ログ収集部214、Web情報データベース251、広告データベース252、インプレッションログ記憶部253、クリックログ記憶部254、ヒストグラム記憶部255を備えている。
== (8) Software Configuration of Web Server 20 ==
FIG. 9 is a diagram illustrating a software configuration example of the Web server 20. The web server 20 includes an HTTP processing unit 211, a web page creation unit 212, an advertisement selection unit 213, a log collection unit 214, a web information database 251, an advertisement database 252, an impression log storage unit 253, a click log storage unit 254, and a histogram storage unit. 255.

なお、HTTP処理部211、Webページ作成部212、広告選択部213、ログ収集部214の各機能部は、Webサーバ20が備えるCPU201が記憶装置202に記憶されているプログラムを実行することにより実現され、Web情報データベース251、広告データベース252、インプレッションログ記憶部253、クリックログ記憶部254、ヒストグラム記憶部255の各記憶部は、Webサーバ20が備えるメモリ202及び記憶装置203が提供する記憶領域の一部として実現される。   Note that the functional units of the HTTP processing unit 211, the Web page creation unit 212, the advertisement selection unit 213, and the log collection unit 214 are realized by the CPU 201 included in the Web server 20 executing a program stored in the storage device 202. The Web information database 251, the advertisement database 252, the impression log storage unit 253, the click log storage unit 254, and the histogram storage unit 255 are storage areas provided by the memory 202 and the storage device 203 provided in the Web server 20. Realized as part.

==(9)記憶部の説明==
(9−1)Web情報データベース251
Web情報データベース251は、Webページを作成するための情報(以下、Web情報という。)を記憶する。Web情報は、例えば、HTMLで記述されたファイルや、CGI(Common Gateway Interface)などの仕組みにより実行されるプログラムを格納したプログラムファイル、画像ファイルなどである。Web情報データベース251は、例えば、Webサーバ20で動作するオペレーティングシステムが提供するファイルシステムのディレクトリやフォルダにより実現することができる。
== (9) Description of Storage Unit ==
(9-1) Web information database 251
The web information database 251 stores information for creating a web page (hereinafter referred to as web information). The Web information is, for example, a file described in HTML, a program file storing a program executed by a mechanism such as CGI (Common Gateway Interface), an image file, or the like. The Web information database 251 can be realized by, for example, a file system directory or folder provided by an operating system operating on the Web server 20.

(9−2)広告データベース252
広告データベース252は、広告を表示するための情報(以下、広告情報という。)を記憶する。図10は、広告データベース252に記憶される広告情報の構成例を示す図である。広告情報には、広告の識別情報である広告IDに対応付けて、広告のカテゴリ、広告に関するURL(Uniform Resource Locator)、広告のタイトル、及び、入札額が含まれる。入札額は、広告がクリックされた場合に広告主から支払われる単価であり、広告主により決定される。
(9-2) Advertising database 252
The advertisement database 252 stores information for displaying advertisements (hereinafter referred to as advertisement information). FIG. 10 is a diagram illustrating a configuration example of advertisement information stored in the advertisement database 252. The advertisement information includes an advertisement category, a URL (Uniform Resource Locator) related to the advertisement, an advertisement title, and a bid amount in association with the advertisement ID that is the identification information of the advertisement. The bid amount is a unit price paid by the advertiser when the advertisement is clicked, and is determined by the advertiser.

本実施形態では、タイトルの文字列を画面1の広告2として表示するものとする。広告2には広告IDを指定した所定のURL(ホスト名にWebサーバ20が指定されるものとする。以下、リダイレクトURLという。)へのリンクが設定される。広告2がクリックされると、広告IDを含むリクエストがWebサーバ20に送信され、後述するログ収集部214によりクリックされたことのログが収集され、HTTP処理部211により広告IDに対応する広告情報のURLにリダイレクトされる(例えば、当該URLをリダイレクト先として指定した応答が送信される。)。これにより、広告に応じたユーザの行動(クリック)を検知することができる。   In the present embodiment, the character string of the title is displayed as the advertisement 2 on the screen 1. The advertisement 2 is set with a link to a predetermined URL designating the advertisement ID (the Web server 20 is designated as the host name; hereinafter referred to as a redirect URL). When the advertisement 2 is clicked, a request including the advertisement ID is transmitted to the Web server 20, a log indicating that the click is collected by the log collection unit 214 described later, and the advertisement information corresponding to the advertisement ID is collected by the HTTP processing unit 211. (For example, a response specifying the URL as a redirect destination is transmitted). Thereby, the user's action (click) according to the advertisement can be detected.

なお、広告として画像や動画などを表示し、あるいは音声を出力させるようにしてもよく、その場合には、例えば広告情報には、広告として表示する画像や動画のデータを示すURLを追加するようにすることができる。   In addition, you may make it display an image, a moving image, etc. as an advertisement, or you may make it output an audio | voice, and in that case, URL which shows the data of the image displayed as an advertisement, or a moving image may be added, for example Can be.

(9−3)インプレッションログ記憶部253
インプレッションログ記憶部253は、ユーザの閲覧した画面に広告が表示されたこと(インプレッションと呼ばれる。)を示す情報(以下、インプレッションログという。)を記憶する。図11は、インプレッションログ記憶部253に記憶されるインプレッションログの構成例を示す図である。インプレッションログには、画面1に広告2が表示された日時(配信日時)、画面1に表示された広告2を示す広告ID及び当該広告のカテゴリが含まれる。
(9-3) Impression log storage unit 253
The impression log storage unit 253 stores information (hereinafter referred to as an impression log) indicating that an advertisement is displayed on the screen viewed by the user (referred to as an impression). FIG. 11 is a diagram illustrating a configuration example of an impression log stored in the impression log storage unit 253. The impression log includes the date and time (delivery date and time) when the advertisement 2 is displayed on the screen 1, the advertisement ID indicating the advertisement 2 displayed on the screen 1, and the category of the advertisement.

図1の画面1の例では、3つの広告2が表示されているので、ユーザがWebページ1を1度閲覧すると3つのインプレッションログが登録されることになる。   In the example of the screen 1 in FIG. 1, since three advertisements 2 are displayed, when the user views the Web page 1 once, three impression logs are registered.

(9−4)クリックログ記憶部254
クリックログ記憶部254(本発明の行動履歴記憶部に該当する。)は、ユーザが画面1に表示された広告2をクリックしたことを示す情報(以下、クリックログという。)を記憶する。図12は、クリックログ記憶部254に記憶されるクリックログの構成例を示す図である。クリックログには、クリックされた広告2を示す広告ID、当該広告のカテゴリ、及び日時(クリック日時)が含まれる。
(9-4) Click log storage unit 254
The click log storage unit 254 (corresponding to the action history storage unit of the present invention) stores information indicating that the user has clicked the advertisement 2 displayed on the screen 1 (hereinafter referred to as a click log). FIG. 12 is a diagram illustrating a configuration example of a click log stored in the click log storage unit 254. The click log includes an advertisement ID indicating the clicked advertisement 2, a category of the advertisement, and a date and time (click date and time).

(9−5)ヒストグラム記憶部255
ヒストグラム記憶部255は、クリックログおよびインプレッションログに基づいて作成される、図3,図4に示すような、予測CTRごとの広告の出現頻度を示すヒストグラムを作成するためのヒストグラム関数h(x)を記憶する。なお、xは予測CTRである。予測CTRの区間が等幅の場合、ヒストグラム記憶部255はヒストグラム関数として、たとえば、各区間について、何番目の区間かを示す区間番号に対応付けて頻度を記憶するようにすることができる。また、予測CTRの区間の幅が等間隔でない場合、ヒストグラム記憶部255はヒストグラム関数として、たとえば、区間番号、区間内の左側CTRおよび右側CTRに対応付けて頻度を記憶するようにすることができる。また、ヒストグラム記憶部255は、数式を表す情報としてヒストグラム関数を記憶するようにしてもよいし、頻度、左型CTRおよび右側CTRなどを出力するプログラムとしてヒストグラム関数を記憶するようにしてもよい。
(9-5) Histogram storage unit 255
The histogram storage unit 255 creates a histogram function h (x) for creating a histogram indicating the frequency of appearance of an advertisement for each predicted CTR, as shown in FIGS. 3 and 4, which is created based on the click log and the impression log. Remember. Note that x is the predicted CTR. When the section of the predicted CTR is the same width, the histogram storage unit 255 can store the frequency as a histogram function in association with, for example, a section number indicating the number of each section. Further, when the width of the section of the predicted CTR is not equal, the histogram storage unit 255 can store the frequency as a histogram function in association with the section number, the left CTR and the right CTR in the section, for example. . Further, the histogram storage unit 255 may store a histogram function as information representing a mathematical expression, or may store the histogram function as a program that outputs the frequency, the left CTR, the right CTR, and the like.

また、代表値が期待値である場合には、ヒストグラム記憶部255は、図6に示すような分布を作成するための差の関数g(i)を記憶する。なお、iは区間番号である。差関数g(i)は、たとえば、区間番号iに対応付けて区間iの頻度hと、次の区間i+1の頻度hi+1との差のg(i)を記憶する。 When the representative value is an expected value, the histogram storage unit 255 stores a difference function g (i) for creating a distribution as shown in FIG. Note that i is a section number. Difference function g (i), for example, stores the frequency h i of the interval i in association with the segment number i, the g (i) of the difference between the frequency h i + 1 of the next interval i + 1.

==(10)機能部の説明==
(10−1)HTTP処理部211
HTTP処理部211は、HTTPの処理を行う。HTTP処理部211は、ユーザ端末10から送信されるHTTPのリクエストを受信する。
リクエストにリダイレクトURLが指定されていた場合、HTTP処理部211は、ログ収集部214を呼び出してクリックログを登録させた上で、リクエストに含まれている広告IDに対応する広告情報を広告データベース252から読み出し、読み出した広告情報に含まれているURLをリダイレクト先として指定した応答をユーザ端末10に応答する。
== (10) Description of Functional Units ==
(10-1) HTTP processing unit 211
The HTTP processing unit 211 performs HTTP processing. The HTTP processing unit 211 receives an HTTP request transmitted from the user terminal 10.
When the redirect URL is specified in the request, the HTTP processing unit 211 calls the log collection unit 214 to register the click log, and then transmits the advertisement information corresponding to the advertisement ID included in the request to the advertisement database 252. And a response specifying the URL included in the read advertisement information as a redirect destination is returned to the user terminal 10.

リクエストにリダイレクトURL以外の、Webページを示すURLが指定された場合には、HTTP処理部211は、Webページ作成部212を呼び出してWebページを表示するための情報(以下、画面情報という。画面情報は例えばHTMLファイルである。)を作成させ、Webページ作成部212が作成した画像情報をユーザ端末10に応答し、ログ収集部214を呼び出してインプレッションログを登録させる。   When a URL indicating a Web page other than the redirect URL is specified in the request, the HTTP processing unit 211 calls information for displaying the Web page by calling the Web page creation unit 212 (hereinafter referred to as screen information). The information is, for example, an HTML file), the image information created by the web page creation unit 212 is responded to the user terminal 10, and the log collection unit 214 is called to register the impression log.

(10−2)Webページ作成部212
Webページ作成部212(本発明の広告出力部に該当する。)は、Webページを表示するための画面情報を作成する。Webページ作成部212は、広告選択部213を呼び出して画面1に表示させる広告2を選択させ、選択された広告が広告2として表示され、広告2がクリックされた場合には、リダイレクトURLにアクセスするように、例えばリンクタグを設定した文字列を画面情報に挿入する。なお、Webページ作成部212が、広告2以外の各種のコンテンツを作成する処理については、一般的なWebサーバによる処理を用いるものとして、ここでは説明を省略する。
(10-2) Web page creation unit 212
The web page creation unit 212 (corresponding to the advertisement output unit of the present invention) creates screen information for displaying a web page. The web page creation unit 212 calls the advertisement selection unit 213 to select the advertisement 2 to be displayed on the screen 1, and when the selected advertisement is displayed as the advertisement 2 and the advertisement 2 is clicked, the redirect URL is accessed. For example, a character string in which a link tag is set is inserted into the screen information. In addition, about the process in which the web page preparation part 212 produces various contents other than the advertisement 2, the process by a general web server is used, and description is abbreviate | omitted here.

(10−3)広告選択部213
広告選択部213は、Webページに表示する広告を選択する。広告選択部213は、配信候補抽出部231、ヒストグラム作成部232、広告評価算出部233、広告決定部234を備えている。なお、配信候補抽出部231、ヒストグラム作成部232、広告評価算出部233、広告決定部234も、CPU201が記憶装置203に記憶されているプログラムをメモリ202に読み出して実行することにより実現される。
(10-3) Advertisement selection unit 213
The advertisement selection unit 213 selects an advertisement to be displayed on the web page. The advertisement selection unit 213 includes a distribution candidate extraction unit 231, a histogram creation unit 232, an advertisement evaluation calculation unit 233, and an advertisement determination unit 234. The distribution candidate extraction unit 231, the histogram creation unit 232, the advertisement evaluation calculation unit 233, and the advertisement determination unit 234 are also realized by the CPU 201 reading the program stored in the storage device 203 into the memory 202 and executing it.

(10−3−1)配信候補抽出部231
配信候補抽出部231は、広告の候補を決定する。配信候補抽出部231は、広告データベース252から所定数(例えば10個や50個、100個など、任意の数を指定することができる。)の広告情報を読み出す。本実施形態では、配信候補抽出部231は、ランダムに所定数の広告情報を読み出すものとするが、例えば、コンテンツの内容やユーザの属性に応じて広告情報を読み出すようにしてもよい。なお、配信候補抽出部231が、数ある広告の中から所定数の広告を選択する処理については、一般的な広告の選択処理を用いることもできる。
(10-3-1) Distribution candidate extraction unit 231
The distribution candidate extraction unit 231 determines advertisement candidates. The distribution candidate extraction unit 231 reads a predetermined number (for example, any number such as 10, 50, 100, etc.) of advertisement information from the advertisement database 252. In the present embodiment, the distribution candidate extraction unit 231 reads out a predetermined number of advertisement information at random. For example, the advertisement information may be read out according to the contents and user attributes. Note that a general advertisement selection process can also be used for the process in which the distribution candidate extraction unit 231 selects a predetermined number of advertisements from among a number of advertisements.

(10−3−2)ヒストグラム作成部232
ヒストグラム作成部232(本発明の行動率取得部に該当する。)はヒストグラム関数h(x)を作成する。なお、xは予測CTRである。具体的には、ヒストグラム作成部232は、各広告について、当該広告を示す広告IDに対応するクリックログおよびインプレッションログの数をカウントしてそれぞれクリック数および表示回数とし、クリック数を表示回数で割って予測CTRを算出する。ヒストグラム作成部232は、所定の区間(たとえば0.01%ごとなどの任意の等幅の区間としてもよいし、等幅でない任意の長さの区間であってもよい。)ごとに、当該区間内の予測CTRである広告の数をカウントして頻度を算出する。ヒストグラム作成部232は、予測CTRの区間が等幅である場合、区間番号に対応付けて頻度を記憶ヒストグラム記憶部255に登録する。また、予測CTRの区間の幅が等間隔でない場合、ヒストグラム作成部232は、区間番号に対応付けて、頻度を区間の幅で割ってヒストグラム記憶部255に登録する。すなわち、この場合のヒストグラムは、頻度はバーの高さではなくバーの面積(高さ×幅)で表現される。
(10-3-2) Histogram creation unit 232
The histogram creation unit 232 (corresponding to the action rate acquisition unit of the present invention) creates a histogram function h (x). Note that x is the predicted CTR. Specifically, for each advertisement, the histogram creation unit 232 counts the number of click logs and impression logs corresponding to the advertisement ID indicating the advertisement as the number of clicks and the number of display times, and divides the number of clicks by the number of display times. To calculate a predicted CTR. For each predetermined section (for example, a section having an arbitrary uniform width such as every 0.01% or a section having an arbitrary length other than a uniform width) may be used for the histogram creation unit 232. The frequency is calculated by counting the number of advertisements that are the predicted CTR. The histogram creation unit 232 registers the frequency in the storage histogram storage unit 255 in association with the section number when the section of the predicted CTR has the same width. When the widths of the sections of the predicted CTR are not equal intervals, the histogram creation unit 232 registers the frequency in the histogram storage unit 255 by dividing the frequency by the width of the section in association with the section number. That is, in the histogram in this case, the frequency is expressed not by the bar height but by the bar area (height × width).

なお、ヒストグラム作成部232は、任意のタイミングでヒストグラム関数h(x)を作成することができる。たとえば、ヒストグラム作成部232は、所定時間(たとえば、1時間、1日、1週間など任意の時間とすることができる。)ごとに作成してもよいし、ユーザからの指示に応じて作成してもよい。また、ヒストグラム作成部232は、クリックログまたはインプレッションログが所定数登録された場合に作成してもよいし、HTTP処理部211がリクエストを受信するたびに作成してもよい。   The histogram creation unit 232 can create the histogram function h (x) at an arbitrary timing. For example, the histogram creation unit 232 may create every predetermined time (for example, any time such as 1 hour, 1 day, 1 week, etc.), or create it according to an instruction from the user. May be. The histogram creation unit 232 may be created when a predetermined number of click logs or impression logs are registered, or may be created each time the HTTP processing unit 211 receives a request.

ヒストグラム作成部232は、代表値を期待値とする場合には、図6に示すような分布を作成するための差の関数g(i)を作成する。すなわち、ヒストグラム作成部232は、各区間iについて、当該区間の頻度hと、次の区間i+1の頻度hi+1との差のg(i)を算出し、区間iごとに、iに対応付けてg(i)をヒストグラム記憶部255に登録する。 When the representative value is the expected value, the histogram creation unit 232 creates a difference function g (i) for creating a distribution as shown in FIG. That is, the histogram creation unit 232, for each interval i, the frequency h i of the interval, calculates g (i) of the difference between the frequency h i + 1 of the next interval i + 1, for each interval i, the correspondence to the i Then, g (i) is registered in the histogram storage unit 255.

(10−3−3)広告評価算出部233
広告評価算出部233(本発明の確率分布作成部、代表値算出部、および広告評価部に対応する。)は、広告の評価値を算出する。上述したように、広告の評価値は、学習後事後分布の最頻値CTR(h;α,β)もしくは期待値xCTR(g;α,β)または、これらに入札額を乗じたxCPMである。
(10-3-3) Advertisement evaluation calculation unit 233
The advertisement evaluation calculation unit 233 (corresponding to the probability distribution creation unit, the representative value calculation unit, and the advertisement evaluation unit of the present invention) calculates the evaluation value of the advertisement. As described above, the evaluation value of the advertisement is the mode CTR (h; α, β) or the expected value xCTR (g; α, β) of the learned posterior distribution, or xCPM obtained by multiplying these by the bid amount. .

広告評価算出部233は、配信候補抽出部231が決定した広告候補のそれぞれについて、インプレッションログ記憶部253から当該広告候補に対応するインプレッションログの数をカウントして表示回数とし、クリックログ記憶部254から当該広告候補に対応するクリックログの数をカウントしてクリック数とする。   The advertisement evaluation calculation unit 233 counts the number of impression logs corresponding to the advertisement candidate from the impression log storage unit 253 for each of the advertisement candidates determined by the distribution candidate extraction unit 231, and clicks the click log storage unit 254. The number of click logs corresponding to the advertisement candidate is counted as the number of clicks.

代表値として期待値を用いる場合には、広告評価算出部233は、ヒストグラム作成部232が作成したヒストグラムの各区間iにおけるCTRの最大値dと、ヒストグラム作成部232が作成した差の関数g(i)と、上記算出したクリック数および表示回数を式(E9)に与えて、学習後分布の期待値xCTR(g;α,β)を当該広告のクリック率の推定値として算出する。 When the expected value is used as the representative value, the advertisement evaluation calculation unit 233 uses the function C of the maximum value d i of the CTR in each section i of the histogram created by the histogram creation unit 232 and the difference created by the histogram creation unit 232. (I) and the calculated number of clicks and the number of display times are given to equation (E9), and the expected value xCTR (g; α, β) of the post-learning distribution is calculated as an estimated value of the click rate of the advertisement.

代表値として最頻値を用いる場合には、広告評価算出部233は、ヒストグラム作成部232が作成したヒストグラムの各区間iにおけるCTRの最小値cおよび最大値dと、ヒストグラム作成部232が作成したヒストグラム関数h(CTR)と、事後分布Be(α,β)における最頻値m(=クリック数÷表示回数)と、上記算出したクリック数および表示回数を式(E10)に与えて、学習後分布のCTR(h;α,β)を当該広告のクリック率の推定値として算出する。 When the mode value is used as the representative value, the advertisement evaluation calculation unit 233 determines that the CTR minimum value c i and maximum value d i in each section i of the histogram created by the histogram creation unit 232 and the histogram creation unit 232 The created histogram function h (CTR), the mode m (= click count / display count) in the posterior distribution Be (α, β), the click count and the display count calculated above are given to the equation (E10), The CTR (h; α, β) of the post-learning distribution is calculated as an estimated value of the click rate of the advertisement.

広告評価算出部233は、算出した推定値または推定値に入札額を乗じた値を広告評価値として決定する。   The advertisement evaluation calculation unit 233 determines the calculated estimated value or a value obtained by multiplying the estimated value by the bid amount as the advertisement evaluation value.

(10−3−4)広告決定部234
広告決定部234は、配信候補抽出部231が決定した候補の中から表示する広告を決定する。広告決定部234は、広告評価算出部233が算出した広告評価値の大きい順に所定数(図1の例では3つ)の広告を、表示する広告として決定する。
(10-3-4) Advertisement determination unit 234
The advertisement determination unit 234 determines an advertisement to be displayed from the candidates determined by the distribution candidate extraction unit 231. The advertisement determination unit 234 determines a predetermined number (three in the example of FIG. 1) of advertisements to be displayed in descending order of the advertisement evaluation value calculated by the advertisement evaluation calculation unit 233.

(10−4)ログ収集部214
ログ収集部214は、インプレッションログ及びクリックログを登録する。ログ収集部214は、HTTPにリダイレクトURLが指定されていた場合には、リダイレクトURLに指定されている広告IDに対応するカテゴリを広告データベース252から読み出し、当該広告ID、読み出したカテゴリ、及び現在の日時を設定したクリックログを作成してクリックログ記憶部254に登録する。HTTPにリダイレクトURL以外のURLが指定されていた場合には、ログ収集部214は、広告選択部213が選択した広告のそれぞれについて、現在日時、広告を示す広告ID、及び当該広告のカテゴリを含むインプレッションログを作成してインプレッションログ記憶部253に登録する。
(10-4) Log collection unit 214
The log collection unit 214 registers an impression log and a click log. When the redirect URL is designated in HTTP, the log collection unit 214 reads out the category corresponding to the advertisement ID designated in the redirect URL from the advertisement database 252 and reads the advertisement ID, the read category, and the current A click log with the date and time set is created and registered in the click log storage unit 254. When a URL other than the redirect URL is specified in HTTP, the log collection unit 214 includes the current date and time, the advertisement ID indicating the advertisement, and the category of the advertisement for each advertisement selected by the advertisement selection unit 213. An impression log is created and registered in the impression log storage unit 253.

==(11)処理==
図13は、Webサーバ20により行われる処理の流れを示す図である。
HTTP処理部211は、ユーザ端末10からHTTPのリクエストを受信すると(S401)、リクエストにリダイレクトURLが指定されているか否かにより、広告がクリックされたか否かを判定する(S402)。
== (11) Processing ==
FIG. 13 is a diagram illustrating a flow of processing performed by the Web server 20.
When receiving an HTTP request from the user terminal 10 (S401), the HTTP processing unit 211 determines whether or not an advertisement has been clicked based on whether or not a redirect URL is specified in the request (S402).

広告がクリックされたと判定した場合(S402:YES)、ログ収集部214は、リダイレクトURLに設定されている広告IDに対応する広告情報を広告データベース252から読み出し、リクエストに設定されている広告ID、広告情報のカテゴリ及び現在日時を含むクリックログを作成してクリックログ記憶部254に登録する(S403)。HTTP処理部211は、広告情報のURLにリダイレクトするようにHTTPのレスポンスをユーザ端末10に送信する(S404)。   When it is determined that the advertisement is clicked (S402: YES), the log collection unit 214 reads advertisement information corresponding to the advertisement ID set in the redirect URL from the advertisement database 252, and the advertisement ID set in the request, A click log including the category of the advertisement information and the current date and time is created and registered in the click log storage unit 254 (S403). The HTTP processing unit 211 transmits an HTTP response to the user terminal 10 so as to redirect to the URL of the advertisement information (S404).

一方、広告がクリックされていないと判断した場合には(S402:NO)、図11の処理により広告選択部213が選択した広告の広告情報を含む広告リストを作成する(S405)。なお、図11に示す広告情報の選択処理については後述する。   On the other hand, if it is determined that the advertisement has not been clicked (S402: NO), an advertisement list including the advertisement information of the advertisement selected by the advertisement selection unit 213 by the process of FIG. 11 is created (S405). The advertisement information selection process shown in FIG. 11 will be described later.

Webページ作成部212は、リクエストに応じて各種のコンテンツを表示するためのHTMLファイルなどの画面情報を作成する(S406)。なお、ステップS406における画面情報の作成処理は、一般的なWebサーバによる処理を採用することができる。   The web page creation unit 212 creates screen information such as an HTML file for displaying various contents in response to the request (S406). Note that the screen information creation processing in step S406 can employ processing by a general Web server.

Webページ作成部212は、広告リストに含まれる各広告情報について、所定のURLの引数に広告情報に含まれる広告IDを設定したリダイレクトURLを作成する(S407)。リダイレクトURLは、例えば「www.foobar.com/ad?id=xxxx」という形式とすることができる。Webページ作成部212は、広告リストに含まれる各広告情報について、広告情報に含まれるタイトルを内容として含むリダイレクトURLへのリンクタグ(例えば、「<a href="http://www.foobar.com/ad?id=xxxx">タイトル</a>」という形式とすることができる。)を画面情報に挿入する(S408)。   The Web page creation unit 212 creates a redirect URL in which the advertisement ID included in the advertisement information is set as an argument of a predetermined URL for each advertisement information included in the advertisement list (S407). The redirect URL can be in the form of “www.foobar.com/ad?id=xxxx”, for example. For each advertisement information included in the advertisement list, the web page creation unit 212 includes a link tag to a redirect URL including the title included in the advertisement information (for example, “<a href =" http: //www.foobar. com / ad? id = xxxx "> title </a>") is inserted into the screen information (S408).

HTTP処理部211は、作成された画面情報をリクエストへの応答としてユーザ端末10に送信する(S409)。ログ収集部214は、広告リストに含まれる各広告情報について、広告情報に含まれる広告ID及びカテゴリ、並びに現在日時を含むインプレッションログを作成してインプレッションログ記憶部253に登録する(S410)。   The HTTP processing unit 211 transmits the created screen information to the user terminal 10 as a response to the request (S409). For each advertisement information included in the advertisement list, the log collection unit 214 creates an impression log including the advertisement ID and category included in the advertisement information and the current date and time and registers the impression log in the impression log storage unit 253 (S410).

==(12)広告の選択処理==
図14は、ステップS405における広告の選択処理の流れを示す図である。
配信候補抽出部231は、広告データベース252から所定数a個の広告情報を抽出する(S421)。なお、広告データベース252からどのような広告情報を抽出するかは任意に設定可能である。例えば、ランダムにa個の広告情報を抽出するようにしてもよいし、広告情報のタイトルがコンテンツにマッチする度合いの高い順にa個の広告情報を抽出するようにしてもよいし、ユーザが興味を有しているカテゴリをユーザ情報の属性として記憶しておき、そのカテゴリにマッチする広告情報をa個抽出するようにしてもよい。
== (12) Advertisement selection process ==
FIG. 14 is a diagram showing the flow of advertisement selection processing in step S405.
The distribution candidate extraction unit 231 extracts a predetermined number a pieces of advertisement information from the advertisement database 252 (S421). Note that what kind of advertisement information is extracted from the advertisement database 252 can be arbitrarily set. For example, a pieces of advertisement information may be extracted at random, or a pieces of advertisement information may be extracted in descending order of the degree that the title of the advertisement information matches the content. May be stored as an attribute of user information, and a number of advertisement information matching the category may be extracted.

広告評価算出部233は、抽出した広告情報のそれぞれについて以下の処理を行う。
広告評価算出部233は、インプレッションログ記憶部253から、広告情報に含まれる広告IDに対応するインプレッションログの数をカウントして表示回数とし(S422)、クリックログ記憶部254から、当該広告IDに対応するクリックログの数をカウントしてクリック数とする(S423)。
The advertisement evaluation calculation unit 233 performs the following process for each of the extracted advertisement information.
The advertisement evaluation calculation unit 233 counts the number of impression logs corresponding to the advertisement ID included in the advertisement information from the impression log storage unit 253 to obtain the display count (S422), and the click log storage unit 254 adds the advertisement ID to the advertisement ID. The number of corresponding click logs is counted as the number of clicks (S423).

代表値として期待値(xCTR)を用いる場合には(S424:YES)、広告評価算出部233は、図15に示す広告評価値の算出処理を行う(S425)。すなわち、広告評価算出部233は、表示回数に2を加算した値を除数とし、クリック数に1を加算した値を被除数とする除算によりxCTRを算出し(S441)、ヒストグラム記憶部255からヒストグラム関数hを読み出し(S442)、ヒストグラム記憶部255から差関数gを読み出し(S443)、上記式(E9)によりxCTR(g;α,β)を算出する(S444)。広告評価算出部233は、xCTR(g;α,β)または広告情報に含まれる入札額をxCTR(g;α,β)に乗じたxCPM(g;α,β)を広告評価値とする(S445)。   When the expected value (xCTR) is used as the representative value (S424: YES), the advertisement evaluation calculation unit 233 performs an advertisement evaluation value calculation process shown in FIG. 15 (S425). That is, the advertisement evaluation calculation unit 233 calculates xCTR by division using a value obtained by adding 2 to the display count as a divisor and a value obtained by adding 1 to the number of clicks as a dividend (S441), and the histogram function from the histogram storage unit 255. h is read (S442), the difference function g is read from the histogram storage unit 255 (S443), and xCTR (g; α, β) is calculated by the above equation (E9) (S444). The advertisement evaluation calculation unit 233 uses xCPM (g; α, β) obtained by multiplying xCTR (g; α, β) or a bid amount included in the advertisement information by xCTR (g; α, β) as an advertisement evaluation value ( S445).

一方、代表値として最頻値(CTR)を用いる場合には(S424:NO)、広告評価算出部233は、図16に示す広告評価値の算出処理を行う(S426)。すなわち、広告評価算出部233は、クリック数をuとし(S461)、表示回数からクリック数を引いた値をvとし(S462)、(u÷v)を事後分布の最頻値mとし(S463)、ヒストグラム記憶部255からヒストグラム関数hを読み出し(S464)、関数hに基づいて、ヒストグラムの各区間iについて左側確率ciおよび右側CTRdiを取得して(S465)、上記式(E10)によりCTR(h;α,β)を算出する(S466)。広告評価算出部233は、CTR(h;α,β)または広告情報に含まれる入札額をCTR(h;α,β)に乗じたeCPM(h;α,β)を広告評価値とする(S467)。   On the other hand, when the mode (CTR) is used as the representative value (S424: NO), the advertisement evaluation calculation unit 233 performs the advertisement evaluation value calculation process shown in FIG. 16 (S426). That is, the advertisement evaluation calculation unit 233 sets u as the number of clicks (S461), sets v as the value obtained by subtracting the number of clicks from the number of display times (S462), and sets (u ÷ v) as the mode m of the posterior distribution (S463). ), The histogram function h is read from the histogram storage unit 255 (S464), the left side probability ci and the right side CTRdi are obtained for each section i of the histogram based on the function h (S465), and the CTR ( h; α, β) is calculated (S466). The advertisement evaluation calculation unit 233 uses CTR (h; α, β) or eCPM (h; α, β) obtained by multiplying the bid amount included in the advertisement information by CTR (h; α, β) as an advertisement evaluation value ( S467).

広告評価算出部233は、以上の処理を各広告情報について行った後、広告評価値の大きい順にn個の広告情報を選択して広告リストとする(S427)。   After performing the above processing for each advertisement information, the advertisement evaluation calculation unit 233 selects n pieces of advertisement information in descending order of the advertisement evaluation value to make an advertisement list (S427).

==(13)効果==
以上説明したように、本実施形態の広告配信システムでは、過去の多数の広告についてのCTRの実績値をヒストグラムにし、このヒストグラムにより事後分布に重み付けを行ったうえで、予測対象の広告についてのCTRを推定することができる。図2の例の事後分布では最頻値は0.2(20%)となっており、図3に示すヒストグラムにおいて0.2の頻度は比較的小さいため、経験的に図2の事後分布における最頻値0.2のCTRの推定値としての妥当性も比較的低いと考えられるところ、過去のCTRの実績値のヒストグラムにより事後分布に重み付けを行うことにより、経験則に応じて事後分布を補正したうえでCTRを推定することができるので、推定の精度および推定値の妥当性が向上することが期待される。特に数多くの広告のログがある場合には、実際に頻度の高かったCTRについて多くの重み付けを行うことができるので、さらにCTRの推定値の精度を向上することができる。
== (13) Effect ==
As described above, in the advertisement distribution system of the present embodiment, the CTR performance values for a large number of past advertisements are used as histograms, and the posterior distribution is weighted by the histograms, and then the CTRs for the advertisements to be predicted are used. Can be estimated. In the posterior distribution of the example of FIG. 2, the mode is 0.2 (20%), and the frequency of 0.2 is relatively small in the histogram shown in FIG. Since the validity of the mode value CTR as an estimated value of 0.2 is considered to be relatively low, the posterior distribution is weighted according to the empirical rule by weighting the posterior distribution with a histogram of past CTR performance values. Since the CTR can be estimated after correction, it is expected that the accuracy of the estimation and the validity of the estimated value are improved. In particular, when there are a large number of advertisement logs, a large amount of weighting can be performed on CTR that is actually frequently performed, so that the accuracy of the estimated value of CTR can be further improved.

また、本実施形態の広告配信システムでは、このCTRの推定値を用いて広告の評価値を決定しているので、広告の評価を精度良く行うことができる。   Further, in the advertisement distribution system of the present embodiment, the evaluation value of the advertisement is determined using the estimated value of CTR, so that the advertisement can be evaluated with high accuracy.

また、本実施形態のように、精度良く推定されたxCTR(またはxCTRに入札額を乗じたxCPM)の大きい順に広告を表示するようにすることで、広告がクリックされる確率(または広告収益)を向上させることができる。   In addition, as in the present embodiment, by displaying the advertisements in descending order of xCTR (or xCPM obtained by multiplying xCTR by a bid amount) accurately estimated, the probability that the advertisement is clicked (or advertising revenue) Can be improved.

また、代表値として期待値を用いる場合、ベイズ推定による事後分布の期待値xCTRは、表示回数およびクリック数を観測した後において、広告がクリックされる確率の妥当な推定値であると考えられるので、表示回数が少ないような場合であっても、広告の評価を正確に行うことが可能となる。したがって、本実施形態のように、xCTR(またはxCTRに入札額を乗じたxCPM)を広告の評価値として用いることにより、より正確に広告の評価を行うことが可能となる。   When the expected value is used as the representative value, the expected value xCTR of the posterior distribution based on Bayesian estimation is considered to be a reasonable estimated value of the probability that the advertisement is clicked after observing the number of display times and the number of clicks. Even when the number of times of display is small, it is possible to accurately evaluate the advertisement. Therefore, as in this embodiment, by using xCTR (or xCPM obtained by multiplying xCTR by a bid amount) as an evaluation value of an advertisement, it is possible to evaluate the advertisement more accurately.

その一方で、事後分布の期待値は式(E1)のように比較的単純な計算式により算出することができる。従来のクリック率の算出式と比較してもそれ程計算負荷は高くならないと考えられる。よって、処理負荷を上げることなく、広告効果を向上させることができる。   On the other hand, the expected value of the posterior distribution can be calculated by a relatively simple calculation formula like the formula (E1). Even if compared with the conventional formula for calculating the click rate, the calculation load is not so high. Therefore, the advertising effect can be improved without increasing the processing load.

また、代表値として最頻値を用いる場合、本実施形態の広告配信システムでは、式E10に示すように、事後分布の最頻値m、mより小さい右側CTRd、およびmより大きい左側CTRcについてのみヒストグラムにより重み付けを行った確率密度を計算しているので、すべてのCTRについて重み付けした確率密度を計算するよりも計算負荷を低減することができる。 Further, when the mode value is used as the representative value, in the advertisement distribution system of the present embodiment, as shown in Expression E10, the mode value m of the posterior distribution, the right side CTRd i smaller than m, and the left side CTRc i larger than m. Since the probability density weighted with respect to only the CTR is calculated, the calculation load can be reduced compared with calculating the weighted probability density for all CTRs.

==(14)変形例==
なお、本実施形態では事前分布は一様分布Be(1,1)を前提としたが、これに限らず、任意の事前分布を設定するようにしてもよい。たとえば、全ての広告について、あるいは広告のカテゴリごとにカテゴリが同じ広告について、クリック数Aおよび表示回数Bをインプレッションログ記憶部253およびクリックログ記憶部254からカウントし、これに基づいて一様分布Be(1,1)を事前分布とした事後分布Be(1+A,1+B−A)を算出しておき、この事後分布Be(1+A,1+B−A)を事前分布として、xCTRを計算するようにしてもよい。すなわち、式(E1)は、次のようになる。
xCTR=(1+A+クリック率)÷(2+B+表示回数)・・・(E1’)
== (14) Modification ==
In the present embodiment, the prior distribution is premised on the uniform distribution Be (1, 1). However, the present invention is not limited to this, and an arbitrary prior distribution may be set. For example, the click number A and the display frequency B are counted from the impression log storage unit 253 and the click log storage unit 254 for all advertisements or for the same category for each advertisement category, and the uniform distribution Be is based on this count. A posterior distribution Be (1 + A, 1 + BA) with (1, 1) as a prior distribution is calculated, and xCTR is calculated using the posterior distribution Be (1 + A, 1 + BA) as a prior distribution. Good. That is, the formula (E1) is as follows.
xCTR = (1 + A + click rate) ÷ (2 + B + number of display times) (E1 ′)

また、本実施形態では、広告の配信時点においてxCTR(g;α,β)またはCTR(h;α,β)を算出するものとしたが、これに限らず、事前に各広告情報についてxCTR(g;α,β)またはCTR(h;α,β)を計算し、これに基づいて広告評価値を算出しておき、事前に計算した広告評価値の大きい順に表示広告を選択するようにしてもよい。この場合、たとえば、広告情報に広告評価値を含めるようにし、ログ収集部214がインプレッションログやクリックログをインプレッションログ記憶部253やクリックログ記憶部254に登録したタイミングで広告評価算出部233が広告評価値を算出して広告情報を更新するようにすることができる。また、広告評価算出部233が、定期的にインプレッションログ記憶部253およびクリックログ記憶部254に基づいて広告評価値を更新するようにしてもよい。   In this embodiment, xCTR (g; α, β) or CTR (h; α, β) is calculated at the time of advertisement distribution. However, the present invention is not limited to this, and xCTR ( g; α, β) or CTR (h; α, β) is calculated, an advertisement evaluation value is calculated based on the calculated value, and display advertisements are selected in descending order of the previously calculated advertisement evaluation value. Also good. In this case, for example, the advertisement evaluation value is included in the advertisement information, and the advertisement evaluation calculation unit 233 performs the advertisement at the timing when the log collection unit 214 registers the impression log or click log in the impression log storage unit 253 or click log storage unit 254. It is possible to update the advertisement information by calculating the evaluation value. Further, the advertisement evaluation calculation unit 233 may periodically update the advertisement evaluation value based on the impression log storage unit 253 and the click log storage unit 254.

また、Webサーバ20は、クリック数と表示回数とに対応付けて広告評価値を記憶する評価表を備えるようにしてもよい。これにより、広告評価値の計算に係る処理負荷を軽減することができる。   The web server 20 may include an evaluation table that stores advertisement evaluation values in association with the number of clicks and the number of display times. Thereby, the processing load concerning calculation of an advertisement evaluation value can be reduced.

また、本実施形態は、広告2はWebページ1の一部に表示されるものとしたが、これに限らず、広告2のみが表示される画面がユーザ端末10において表示されるようにしてもよいし、広告2がコンテンツとは異なる別画面に表示されるようにしてもよい。   In the present embodiment, the advertisement 2 is displayed on a part of the Web page 1. However, the present invention is not limited thereto, and a screen on which only the advertisement 2 is displayed may be displayed on the user terminal 10. Alternatively, the advertisement 2 may be displayed on a different screen from the content.

==(15)変形例:連続的なヒストグラム==
また、本実施形態では、区間毎の頻度をカウントした離散型のヒストグラムを用いることを前提としたが、これに限らず、たとえばパルツェン窓(カーネル密度推定)などの手法による確率密度推定を用いて連続的なヒストグラム関数hを作成するようにしてもよい。この場合、所定のステップ値(たとえば、0.01%、0.1%など任意の値とすることができる。)ごとの確率xについて計算を行うことで、代表値を算出するようにすることができる。
たとえば、代表値として最頻値を採用する場合、事後分布をf(x)として、ヒストグラムh(x)と事後分布f(x)を乗じた値が最大となるxを最頻値CTR(h;α,β)として決定することができる。なお、f(x)は次式で表される。

Figure 2013161359
この場合のCTRの算出処理を図17に示す。広告評価算出部233はまず、確率密度を示す変数rを0に設定し(S481)、最頻値CTR(h;α,β)を0とし(S482)、確率xを0に設定する(S483)。広告評価算出部233は、ヒストグラムh(x)と事後分布f(x)とを乗じた値をtとし(S484)、tがrよりも大きい場合には(S485:YES)、tをrとし(S486)、xを最頻値CTR(h;α,β)とする(S487)。広告評価算出部233は、xにステップ値を加算し(S488)、xが1(所定の上限値としてもよい。)を超えなければ(S489:NO)、ステップS484からの処理を繰り返す。このようにして、連続的なヒストグラム関数hを用いた場合にも、最頻値(の近似値)を求めることができる。
また、代表値として期待値を採用する場合にも、同様にステップ値ごとの確率xを用いて、次式のようにE3の近似式E3’を用いてxCTRの計算を行う。
Figure 2013161359
すなわち、広告評価算出部233は、ステップ値ごとのxについてxとヒストグラムh(x)と事後分布f(x)とを乗じた値を算出して合計した合計値を被除数とし、同じくステップ値ごとのxについてヒストグラムh(x)と事後分布f(x)とを乗じた値を算出して合計した合計値を除数として除算を行うことにより、期待値(の近似値)を求めることができる。 == (15) Modification: Continuous histogram ==
In this embodiment, it is assumed that a discrete histogram that counts the frequency of each section is used. However, the present invention is not limited to this. For example, probability density estimation using a technique such as a Parzen window (kernel density estimation) is used. A continuous histogram function h may be created. In this case, the representative value is calculated by calculating the probability x for each predetermined step value (for example, an arbitrary value such as 0.01% or 0.1%). Can do.
For example, when the mode is adopted as the representative value, the posterior distribution is set to f (x), and the maximum value obtained by multiplying the histogram h (x) and the posterior distribution f (x) is set to the mode CTR (h ; Α, β) can be determined. Note that f (x) is expressed by the following equation.
Figure 2013161359
FIG. 17 shows CTR calculation processing in this case. First, the advertisement evaluation calculation unit 233 sets the variable r indicating the probability density to 0 (S481), sets the mode value CTR (h; α, β) to 0 (S482), and sets the probability x to 0 (S483). ). The advertisement evaluation calculation unit 233 sets a value obtained by multiplying the histogram h (x) and the posterior distribution f (x) as t (S484), and when t is larger than r (S485: YES), sets t as r. (S486), x is the mode value CTR (h; α, β) (S487). The advertisement evaluation calculation unit 233 adds the step value to x (S488), and if x does not exceed 1 (may be a predetermined upper limit value) (S489: NO), the processing from step S484 is repeated. In this way, the mode value (approximate value) can be obtained even when the continuous histogram function h is used.
Further, even when adopting the expected value as a representative value, likewise using the probability x i for each step value, the calculation of xCTR using an approximate expression of E3 E3 as: '.
Figure 2013161359
That is, the advertisement evaluation calculation unit 233 calculates a value obtained by multiplying x i for each step value by x i , the histogram h (x i ), and the posterior distribution f (x i ), and uses the total value as a dividend. Similarly, the value obtained by multiplying the x i for each step value by the histogram h (x i ) and the posterior distribution f (x i ) and dividing the sum is used as the divisor to obtain the approximate value of the expected value ).

以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。   Although the present embodiment has been described above, the above embodiment is intended to facilitate understanding of the present invention and is not intended to limit the present invention. The present invention can be changed and improved without departing from the gist thereof, and the present invention includes equivalents thereof.

例えば、本実施形態では、広告配信システムは1台のWebサーバ20から構成されるものとしたが、これに限らず、複数のコンピュータにより構成してもよい。例えばWebページを提供するWebサーバと、Webページを作成するアプリケーションサーバと、各種のデータを管理するデータベースサーバとから構成することもできる。   For example, in this embodiment, the advertisement distribution system is configured by one Web server 20, but is not limited thereto, and may be configured by a plurality of computers. For example, a web server that provides a web page, an application server that creates a web page, and a database server that manages various data can be used.

また、たとえば、配信する広告を選択するプログラム(マッチングエンジン)の評価を行う場合など、広告自体を評価する広告評価装置に適用することもできる。この場合、広告評価装置は、広告の表示回数を取得する表示回数取得部と、広告のクリック数を取得するクリック数取得部と、xCTR(またはxCTR×入札額)を広告の評価値として算出する広告評価算出部233と、広告の評価値を出力する評価値出力部と、を備えるようにする。広告評価値装置にインプレッションログ記憶部253およびクリックログ記憶部254を備えるようにして、表示回数取得部およびクリック数取得部は、インプレッションログ記憶部253およびクリックログ記憶部254から広告IDに対応するインプレッションログおよびクリックログの数をカウントするようにしてもよいし、他のコンピュータがインプレッションログ記憶部253およびクリックログ記憶部254を備えている場合に、そのコンピュータにアクセスして広告IDに対応するインプレッションログおよびクリックログのそれぞれの数を問い合わせるようにしてもよい。   For example, the present invention can be applied to an advertisement evaluation apparatus that evaluates an advertisement itself, for example, when evaluating a program (matching engine) for selecting an advertisement to be distributed. In this case, the advertisement evaluation device calculates a display number acquisition unit that acquires the number of advertisements displayed, a click number acquisition unit that acquires the number of clicks of the advertisement, and xCTR (or xCTR × bid amount) as the evaluation value of the advertisement. An advertisement evaluation calculation unit 233 and an evaluation value output unit that outputs an evaluation value of the advertisement are provided. The advertisement evaluation value device includes an impression log storage unit 253 and a click log storage unit 254, and the display number acquisition unit and the click number acquisition unit correspond to the advertisement ID from the impression log storage unit 253 and the click log storage unit 254. The number of impression logs and click logs may be counted, or when another computer includes the impression log storage unit 253 and the click log storage unit 254, the computer is accessed to correspond to the advertisement ID. The number of impression logs and click logs may be inquired.

1 Webページ
2 広告
10 ユーザ端末
20 Webサーバ
30 通信ネットワーク
211 HTTP処理部
212 Webページ作成部
213 広告選択部
214 ログ収集部
231 配信候補抽出部
232 ヒストグラム作成部
233 広告評価算出部
234 広告決定部
251 Web情報データベース
252 広告データベース
253 インプレッションログ記憶部
254 クリックログ記憶部
255 ヒストグラム記憶部
DESCRIPTION OF SYMBOLS 1 Web page 2 Advertisement 10 User terminal 20 Web server 30 Communication network 211 HTTP processing part 212 Web page creation part 213 Advertisement selection part 214 Log collection part 231 Distribution candidate extraction part 232 Histogram creation part 233 Advertisement evaluation calculation part 234 Advertisement determination part 251 Web information database 252 Advertising database 253 Impression log storage unit 254 Click log storage unit 255 Histogram storage unit

Claims (6)

広告を評価する装置であって、
評価対象の広告である評価広告を表示した表示回数を取得する表示回数取得部と、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得する行動回数取得部と、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成する確率分布作成部と、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得する行動率取得部と、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出する代表値算出部と、
前記代表値に応じて前記広告の評価値を決定する広告評価部と、
を備えることを特徴とする広告評価装置。
A device for evaluating advertisements,
An impression number acquisition unit for acquiring the number of impressions for which an evaluation advertisement that is an evaluation target is displayed;
An action number acquisition unit for acquiring the number of actions of the viewer in response to the evaluation advertisement;
A probability distribution creating unit that creates a probability distribution of the probability that the viewer takes the action in response to the advertisement based on the number of actions and the number of displays;
For each display advertisement that is an advertisement that has been displayed in the past, an action rate acquisition unit that acquires an action rate that is a rate at which a viewer takes action in response to the display advertisement,
A representative value calculator that corrects the probability distribution according to the frequency of the action rate, and calculates a representative value of the corrected probability distribution;
An advertisement evaluation unit that determines an evaluation value of the advertisement according to the representative value;
An advertisement evaluation apparatus comprising:
請求項1に記載の広告評価装置であって、
前記代表値算出部は、前記確率分布における確率密度に前記頻度を乗じることにより前記確率分布を補正すること、
を特徴とする広告評価装置。
The advertisement evaluation device according to claim 1,
The representative value calculator corrects the probability distribution by multiplying the probability density in the probability distribution by the frequency;
An advertisement evaluation apparatus characterized by.
請求項2に記載の広告評価装置であって、
前記確率分布作成部は、所定のベータ分布Be(a、b)を事前分布とした前記行動回数および前記表示回数の場合における前記確率のベイズ推定による事後分布であるベータ分布Be(行動数+a,表示回数−行動数+b)を作成し、
前記代表値算出部は、
前記確率の区間ごとに前記行動率の前記頻度を算出し、
前記区間のそれぞれについて、当該区間に対応する前記頻度と、次の前記区間に対応する前記頻度との差を算出し、
前記区間のそれぞれについて、正規化不完全ベータ関数に、前記区間内の最大の前記確率、前記行動回数にaを加算した第1パラメータ、および前記表示回数から前記行動回数を引いた値にbを加算した第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を除数とし、前記区間のそれぞれについて前記正規化不完全ベータ関数に、前記最大の確率、前記第1パラメータに1を加算した値および前記第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を被除数とする除算結果と、前記事後分布の期待値とを乗じて前記代表値を算出すること、
を特徴とする広告評価装置。
The advertisement evaluation device according to claim 2,
The probability distribution creation unit includes a beta distribution Be (number of actions + a, number of actions + a, b) that is a posterior distribution by Bayes estimation of the probability in the case of the number of actions and the number of times of display with a predetermined beta distribution Be (a, b) as a prior distribution. Create impressions-actions + b)
The representative value calculation unit
Calculating the frequency of the activity rate for each interval of the probability;
For each of the sections, calculate the difference between the frequency corresponding to the section and the frequency corresponding to the next section;
For each of the sections, the normalized incomplete beta function has the maximum probability in the section, a first parameter obtained by adding a to the number of actions, and b obtained by subtracting the number of actions from the display count. A value obtained by multiplying the added second parameter by the difference corresponding to the interval is used as a divisor, and the normalized incomplete beta function is set to the maximum probability and the first parameter is set to 1 for each of the intervals. The representative value is calculated by multiplying the result obtained by multiplying the value obtained by adding the second parameter and the value given the second parameter by the value corresponding to the interval and the expected value of the posterior distribution. about,
An advertisement evaluation apparatus characterized by.
請求項1又は2に記載の広告評価装置であって、
前記代表値算出部は、
前記確率の区間ごとに前記行動率の前記頻度を算出し、
前記確率分布の最頻値を算出し、
前記最頻値に対応する前記確率分布の確率密度に、前記最頻値に対応する前記頻度を乗じた第1値を算出し、
前記区間内の最大の前記確率である右側確率が前記最頻値よりも小さい前記区間について、前記右側確率に対応する前記確率密度に、前記右側確率に対応する前記頻度を乗じた第2値を算出し、
前記区間内の最小の前記確率である左側確率が前記最頻値よりも大きい前記区間について、前記左側確率に対応する前記確率密度に、前記左側確率に対応する前記頻度を乗じた第3値を算出し、
前記第1値、前記第2値および前記第3値の中の最大値に対応する前記確率を前記代表値として決定すること、
を特徴とする広告評価装置。
The advertisement evaluation device according to claim 1 or 2,
The representative value calculation unit
Calculating the frequency of the activity rate for each interval of the probability;
Calculating the mode of the probability distribution;
Calculating a first value obtained by multiplying the probability density of the probability distribution corresponding to the mode value by the frequency corresponding to the mode value;
A second value obtained by multiplying the probability density corresponding to the right probability by the frequency corresponding to the right probability for the interval in which the right probability that is the maximum probability in the interval is smaller than the mode value. Calculate
A third value obtained by multiplying the probability density corresponding to the left probability by the frequency corresponding to the left probability for the interval in which the left probability that is the minimum probability in the interval is larger than the mode value. Calculate
Determining the probability corresponding to the maximum value among the first value, the second value and the third value as the representative value;
An advertisement evaluation apparatus characterized by.
広告を評価する方法であって、
コンピュータが、
評価対象の広告である評価広告を表示した表示回数を取得するステップと、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、
前記代表値に応じて前記広告の評価値を決定するステップと、
を実行することを特徴とする広告評価方法。
A method for evaluating ads,
Computer
Obtaining impressions for which an evaluation ad, which is an evaluation target, is displayed;
Obtaining the number of times the viewer has acted in response to the evaluation advertisement;
Creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the action count and the display count;
For each display advertisement that is an advertisement that has been displayed in the past, obtaining an action rate that is a rate at which a viewer takes action in response to the display advertisement;
Correcting the probability distribution according to the frequency of the action rate, and calculating a representative value of the corrected probability distribution;
Determining an evaluation value of the advertisement according to the representative value;
The advertisement evaluation method characterized by performing.
広告を評価するためのプログラムであって、
コンピュータに、
評価対象の広告である評価広告を表示した表示回数を取得するステップと、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、
前記代表値に応じて前記広告の評価値を決定するステップと、
を実行させるためのプログラム。
A program for evaluating ads,
On the computer,
Obtaining impressions for which an evaluation ad, which is an evaluation target, is displayed;
Obtaining the number of times the viewer has acted in response to the evaluation advertisement;
Creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the action count and the display count;
For each display advertisement that is an advertisement that has been displayed in the past, obtaining an action rate that is a rate at which a viewer takes action in response to the display advertisement;
Correcting the probability distribution according to the frequency of the action rate, and calculating a representative value of the corrected probability distribution;
Determining an evaluation value of the advertisement according to the representative value;
A program for running
JP2012024276A 2012-02-07 2012-02-07 Advertisement evaluation apparatus, advertisement evaluation method and program Active JP5425941B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012024276A JP5425941B2 (en) 2012-02-07 2012-02-07 Advertisement evaluation apparatus, advertisement evaluation method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012024276A JP5425941B2 (en) 2012-02-07 2012-02-07 Advertisement evaluation apparatus, advertisement evaluation method and program

Publications (2)

Publication Number Publication Date
JP2013161359A true JP2013161359A (en) 2013-08-19
JP5425941B2 JP5425941B2 (en) 2014-02-26

Family

ID=49173533

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012024276A Active JP5425941B2 (en) 2012-02-07 2012-02-07 Advertisement evaluation apparatus, advertisement evaluation method and program

Country Status (1)

Country Link
JP (1) JP5425941B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015148689A (en) * 2014-02-05 2015-08-20 日本電信電話株式会社 Advertising display control method, advertising display control device, and program
WO2017118439A1 (en) * 2016-01-07 2017-07-13 腾讯科技(深圳)有限公司 Information publishing method, information publishing device and storage medium
CN110019290A (en) * 2017-08-31 2019-07-16 腾讯科技(深圳)有限公司 Recommended method and device based on statistics priori
JP2021149258A (en) * 2020-03-17 2021-09-27 ヤフー株式会社 Information processing device, information processing method, and information processing program

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7341388B1 (en) 2022-12-26 2023-09-11 東洋インキScホールディングス株式会社 Active energy ray-curable ink composition for metal printing and its laminate

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005537591A (en) * 2002-08-27 2005-12-08 グーグル・インク Method and system for providing advertising list variability for distribution on the Internet to maximize advertising distributor revenue
JP2008547129A (en) * 2005-06-28 2008-12-25 マイクロソフト コーポレーション Automatic advertising
WO2010117889A2 (en) * 2009-04-10 2010-10-14 Microsoft Corporation Scalable clustering

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005537591A (en) * 2002-08-27 2005-12-08 グーグル・インク Method and system for providing advertising list variability for distribution on the Internet to maximize advertising distributor revenue
JP2008547129A (en) * 2005-06-28 2008-12-25 マイクロソフト コーポレーション Automatic advertising
WO2010117889A2 (en) * 2009-04-10 2010-10-14 Microsoft Corporation Scalable clustering

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6013052636; Xuerui Wang: 'Click-Through Rate Estimation for Rare Events in Online Advertising' Online Multimedia Advertising: Techniques and Technologies , 2010, ACM *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015148689A (en) * 2014-02-05 2015-08-20 日本電信電話株式会社 Advertising display control method, advertising display control device, and program
WO2017118439A1 (en) * 2016-01-07 2017-07-13 腾讯科技(深圳)有限公司 Information publishing method, information publishing device and storage medium
CN110019290A (en) * 2017-08-31 2019-07-16 腾讯科技(深圳)有限公司 Recommended method and device based on statistics priori
JP2021149258A (en) * 2020-03-17 2021-09-27 ヤフー株式会社 Information processing device, information processing method, and information processing program
JP7244449B2 (en) 2020-03-17 2023-03-22 ヤフー株式会社 Information processing device, information processing method and information processing program

Also Published As

Publication number Publication date
JP5425941B2 (en) 2014-02-26

Similar Documents

Publication Publication Date Title
US10529011B2 (en) Method and system of determining an optimal value of an auction parameter for a digital object
JP5899275B2 (en) System and method for scoring quality of advertisement and content in online system
JP5485311B2 (en) Advertisement evaluation apparatus, advertisement evaluation method and program
JP5491555B2 (en) Advertisement distribution apparatus, advertisement distribution method and program
JP5139397B2 (en) Advertisement delivery apparatus and method
JP6408346B2 (en) Integrated market for advertising and content in online systems
US10296942B2 (en) Advertisement choosing device and advertisement choosing method
JP5507607B2 (en) Content providing apparatus, low rank approximate matrix generating apparatus, content providing method, low rank approximate matrix generating method, and program
JP5425941B2 (en) Advertisement evaluation apparatus, advertisement evaluation method and program
US20130066709A1 (en) Method of and system for determining contextually relevant advertisements to be provided to a web page
JP5507622B2 (en) Advertisement billing amount determination device, advertisement billing amount determination method and program
US8700465B1 (en) Determining online advertisement statistics
JP5558539B2 (en) Search system, search method and program
JPWO2009060829A1 (en) Advertisement presenting method, advertisement presenting system and program
EP2477149A1 (en) System and method for providing advertisement in web sites
JP5674721B2 (en) Advertisement registration apparatus, advertisement registration method and program
JP5491556B2 (en) Advertisement distribution apparatus, advertisement distribution method and program
JP5373003B2 (en) Advertisement processing apparatus and method
JP5520913B2 (en) Advertisement output device, advertisement output method and program
KR101614954B1 (en) Advertisement system and advertisement method for controling exposure frequency and exposure interval of advertisement to manage inventory
KR101016701B1 (en) Method and system for providing service of advertisement
JP6362577B2 (en) Information processing apparatus and display article selection system
JP6127228B1 (en) Information processing system, information processing method, and information processing program
JP2016076176A (en) Advertisement distribution server and advertisement distribution program
JP5976965B2 (en) Advertisement determination device, advertisement determination method and program

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131127

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5425941

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350