JP2013161359A - Advertisement evaluation apparatus, advertisement evaluation method, and program - Google Patents
Advertisement evaluation apparatus, advertisement evaluation method, and program Download PDFInfo
- Publication number
- JP2013161359A JP2013161359A JP2012024276A JP2012024276A JP2013161359A JP 2013161359 A JP2013161359 A JP 2013161359A JP 2012024276 A JP2012024276 A JP 2012024276A JP 2012024276 A JP2012024276 A JP 2012024276A JP 2013161359 A JP2013161359 A JP 2013161359A
- Authority
- JP
- Japan
- Prior art keywords
- advertisement
- value
- probability
- evaluation
- distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000011156 evaluation Methods 0.000 title claims abstract description 107
- 238000009826 distribution Methods 0.000 claims abstract description 133
- 230000009471 action Effects 0.000 claims abstract description 50
- 238000000034 method Methods 0.000 claims description 18
- 230000004044 response Effects 0.000 claims description 16
- 230000000694 effects Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 description 31
- 238000012545 processing Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 11
- 238000000605 extraction Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 4
- 238000009827 uniform distribution Methods 0.000 description 3
- 101150117300 ctrC gene Proteins 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本発明は、広告評価装置、広告評価方法およびプログラムに関する。 The present invention relates to an advertisement evaluation device, an advertisement evaluation method, and a program.
Webページに表示される広告のクリック率(CTR;Click Through Rateとも呼ばれる。)は広告によって異なることから、広告の評価値としてCTRが用いられることがある。広告を正しく評価するためにはクリック率を正確に推定する必要があるため、過去の実績から算出したCTRの補正が求められることがある。たとえば、特許文献1では露出数による加重値を用いてCTRを補正することが行われている。
Since the click rate (also referred to as CTR; Click Through Rate) of an advertisement displayed on a web page varies depending on the advertisement, CTR may be used as an evaluation value of the advertisement. Since it is necessary to accurately estimate the click rate in order to correctly evaluate the advertisement, correction of CTR calculated from past results may be required. For example, in
しかしながら、特許文献1においても、あくまで過去のクリック数を露出数で割った値をCTRとして用いることが前提となっており、特に表示回数が少ない間は正確なクリック率を把握することが難しく、広告を過大あるいは過小に評価してしまうことがあった。
However, even in
本発明は、このような背景を鑑みてなされたものであり、広告の評価を正確に行うことのできる、広告評価装置、広告評価方法およびプログラムを提供することを目的とする。 The present invention has been made in view of such a background, and an object thereof is to provide an advertisement evaluation device, an advertisement evaluation method, and a program that can accurately evaluate an advertisement.
上記課題を解決するための本発明の主たる発明は、広告を評価する装置であって、評価対象の広告である評価広告を表示した表示回数を取得する表示回数取得部と、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得する行動回数取得部と、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成する確率分布作成部と、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得する行動率取得部と、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出する代表値算出部と、前記代表値に応じて前記広告の評価値を決定する広告評価部と、を備えることとする。 A main invention of the present invention for solving the above-described problem is an apparatus for evaluating an advertisement, and a display number acquisition unit that acquires a display number of times of displaying an evaluation advertisement that is an advertisement to be evaluated, and according to the evaluation advertisement Based on the number of actions and the number of times of display, the probability distribution of the probability that the viewer will take the action in response to the advertisement is created based on the number of actions acquired by the viewer For each display advertisement that is an advertisement that has been displayed in the past, a probability distribution creation section, an action rate acquisition section that acquires an action rate that is a rate at which a viewer has acted according to the display advertisement, and A representative value calculating unit that corrects the probability distribution according to frequency, calculates a representative value of the corrected probability distribution, and an advertisement evaluation unit that determines an evaluation value of the advertisement according to the representative value. And
また、本発明の広告評価装置では、前記代表値算出部は、前記確率分布における確率密度に前記頻度を乗じることにより前記確率分布を補正するようにしてもよい。 In the advertisement evaluation device of the present invention, the representative value calculation unit may correct the probability distribution by multiplying the probability density in the probability distribution by the frequency.
また、本発明の広告評価装置では、前記確率分布作成部は、所定のベータ分布Be(a、b)を事前分布とした前記行動回数および前記表示回数の場合における前記確率のベイズ推定による事後分布であるベータ分布Be(行動数+a,表示回数−行動数+b)を作成し、前記代表値算出部は、前記確率の区間ごとに前記行動率の前記頻度を算出し、前記区間のそれぞれについて、当該区間に対応する前記頻度と、次の前記区間に対応する前記頻度との差を算出し、前記区間のそれぞれについて、正規化不完全ベータ関数に、前記区間内の最大の前記確率、前記行動回数にaを加算した第1パラメータ、および前記表示回数から前記行動回数を引いた値にbを加算した第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を除数とし、前記区間のそれぞれについて前記正規化不完全ベータ関数に、前記最大の確率、前記第1パラメータに1を加算した値および前記第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を被除数とする除算結果と、前記事後分布の期待値とを乗じて前記代表値を算出するようにしてもよい。 Further, in the advertisement evaluation device according to the present invention, the probability distribution creation unit includes a posterior distribution by Bayes estimation of the probability in the case of the number of actions and the number of times of display with a predetermined beta distribution Be (a, b) as a prior distribution. A beta distribution Be (number of actions + a, number of display times−number of actions + b) is created, and the representative value calculation unit calculates the frequency of the action rate for each interval of the probability, and for each of the intervals, The difference between the frequency corresponding to the interval and the frequency corresponding to the next interval is calculated, and for each of the intervals, the maximum probability in the interval, the action, and the normalized incomplete beta function are calculated. A value obtained by multiplying a value obtained by adding a first parameter obtained by adding a to the number of times and a second parameter obtained by adding b to the value obtained by subtracting the number of actions from the number of times displayed is the divisor. For each of the intervals, the normalized incomplete beta function is multiplied by the maximum probability, a value obtained by adding 1 to the first parameter, and a value given the second parameter by the difference corresponding to the interval. The representative value may be calculated by multiplying the division result with the obtained value as the dividend and the expected value of the posterior distribution.
また、本発明の広告評価装置では、前記代表値算出部は、前記確率の区間ごとに前記行動率の前記頻度を算出し、前記確率分布の最頻値を算出し、前記最頻値に対応する前記確率分布の確率密度に、前記最頻値に対応する前記頻度を乗じた第1値を算出し、前記区間内の最大の前記確率である右側確率が前記最頻値よりも小さい前記区間について、前記右側確率に対応する前記確率密度に、前記右側確率に対応する前記頻度を乗じた第2値を算出し、前記区間内の最小の前記確率である左側確率が前記最頻値よりも大きい前記区間について、前記左側確率に対応する前記確率密度に、前記左側確率に対応する前記頻度を乗じた第3値を算出し、前記第1値、前記第2値および前記第3値の中の最大値に対応する前記確率を前記代表値として決定するようにしてもよい。 In the advertisement evaluation device of the present invention, the representative value calculation unit calculates the frequency of the activity rate for each probability interval, calculates a mode value of the probability distribution, and corresponds to the mode value The first value obtained by multiplying the probability density of the probability distribution by the frequency corresponding to the mode value is calculated, and the right side probability that is the maximum probability in the section is smaller than the mode value. A second value obtained by multiplying the probability density corresponding to the right probability by the frequency corresponding to the right probability, and the left probability that is the minimum probability in the interval is greater than the mode value. For the large interval, a third value obtained by multiplying the probability density corresponding to the left probability by the frequency corresponding to the left probability is calculated, and among the first value, the second value, and the third value, The probability corresponding to the maximum value is determined as the representative value. It may be.
また、本発明の他の態様は、広告を評価する方法であって、コンピュータが、評価対象の広告である評価広告を表示した表示回数を取得するステップと、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、前記代表値に応じて前記広告の評価値を決定するステップと、を実行することとする。 According to another aspect of the present invention, there is provided a method for evaluating an advertisement, in which a computer acquires a display count for displaying an evaluation advertisement that is an advertisement to be evaluated, and a viewer responds to the evaluation advertisement. A step of acquiring the number of actions that caused an action; a step of creating a probability distribution of a probability that the viewer will take the action according to the advertisement based on the number of actions and the display number; For each display advertisement that is a displayed advertisement, a step of obtaining an action rate that is a rate at which a viewer has acted according to the display advertisement, and correcting the probability distribution according to the frequency of the action rate, and the correction The step of calculating the representative value of the probability distribution and the step of determining the evaluation value of the advertisement according to the representative value are executed.
また、本発明の他の態様は、広告を評価するためのプログラムであって、コンピュータに、評価対象の広告である評価広告を表示した表示回数を取得するステップと、前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、前記代表値に応じて前記広告の評価値を決定するステップと、を実行させることとする。 According to another aspect of the present invention, there is provided a program for evaluating an advertisement, the step of obtaining a display count of displaying an evaluation advertisement as an advertisement to be evaluated on a computer, and browsing according to the evaluation advertisement Obtaining the number of actions that a person has taken action, creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the number of actions and the number of displays, and in the past For each display advertisement that is a displayed advertisement, a step of obtaining an action rate that is a rate at which a viewer has acted according to the display advertisement, and correcting the probability distribution according to the frequency of the action rate, A step of calculating a representative value of the corrected probability distribution and a step of determining an evaluation value of the advertisement according to the representative value are executed.
その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。 Other problems and solutions to be disclosed by the present application will be made clear by the embodiments of the invention and the drawings.
本発明によれば、広告の評価を正確に行うことができる。 According to the present invention, it is possible to accurately evaluate an advertisement.
==(1)発明の概要==
以下、本発明の一実施形態に係る広告配信システムについて説明する。本実施形態において広告とは、Webページにおいて、コンテンツの内容等に応じて表示される広告(リスティング広告と呼ばれる。)を想定する。図1は本実施形態の広告システムにおいて表示されるWebページ1の一例を示す図である。Webページ1には、各種のコンテンツ(図1の例ではトピックスとして表示されている。)とともに、複数の広告2が表示される。本実施形態では、Webページ1を表示させるための情報(以下、画面情報という。)に、評価値の高い順に所定数(図1の例では3つ)の広告2を入れて送信することを想定している。
== (1) Summary of Invention ==
Hereinafter, an advertisement distribution system according to an embodiment of the present invention will be described. In the present embodiment, an advertisement is assumed to be an advertisement (referred to as a listing advertisement) that is displayed on a Web page according to the content or the like. FIG. 1 is a diagram showing an example of a
本実施形態の広告配信システムは、評価の高い広告を優先的に配信することにより広告効果を高めようとするものである。広告の評価を示す指標(以下、広告評価値という。)としては、クリック率(CTR)や広告収益(eCPM=CTR×入札額)などがよく用いられている。本実施形態の広告配信システムでは、広告がクリックされる確率(クリック率)についてのベイズ推定による事後分布を補正したものの代表値をクリック率の推定値とし、この推定値そのものまたは推定値に入札額を乗じたeCPMを広告評価値とする。代表値としては、最頻値または平均値(期待値)を用いる。事後分布の補正は、過去の実績における各広告のCTRについてのヒストグラムに基づいて行われる。 The advertisement distribution system according to the present embodiment is intended to enhance the advertising effect by preferentially distributing advertisements with high evaluation. As an index indicating an advertisement evaluation (hereinafter referred to as an advertisement evaluation value), a click rate (CTR), advertisement profit (eCPM = CTR × bid amount), and the like are often used. In the advertisement distribution system according to the present embodiment, a representative value is obtained by correcting the posterior distribution by Bayesian estimation for the click probability (click rate) of the advertisement, and the estimated value of the click rate is used. The eCPM multiplied by is set as the advertisement evaluation value. As the representative value, a mode value or an average value (expected value) is used. The correction of the posterior distribution is performed based on the histogram of CTR of each advertisement in the past performance.
==(2)ベイズ推定==
本実施形態において、事前分布は理由不十分の原理から一様分布のベータ分布Be(1,1)であるものとする。ある広告をn回配信してr回クリックされた場合には、事後分布はBe(1+r,1+n−r)となる。以下の説明において、広告が配信された回数nを表示回数といい、クリックされた回数rをクリック数という。また、事後分布のパラメータはα,β(α=1+クリック数、β=1+表示回数−クリック数)と表記する。
このときのベータ分布の最頻値は、クリック数÷表示回数であり、いわゆるクリック率(CTR)と一致する。
== (2) Bayesian estimation ==
In this embodiment, the prior distribution is assumed to be a beta distribution Be (1, 1) having a uniform distribution from the principle of insufficient reason. When an advertisement is distributed n times and clicked r times, the posterior distribution becomes Be (1 + r, 1 + n−r). In the following description, the number n of times an advertisement has been distributed is referred to as a display number, and the number of clicks r is referred to as a click number. The parameters of the posterior distribution are expressed as α, β (α = 1 + number of clicks, β = 1 + number of display times−number of clicks).
The mode value of the beta distribution at this time is the number of clicks divided by the number of times of display, which matches the so-called click rate (CTR).
また、上記ベータ分布の期待値を、当該広告のクリック率の期待値(以下、xCTR(eXpected Click Through Rate)と表記する。)として算出する。
ベータ分布Be(α,β)の期待値(xCTR)はα÷(α+β)であるので、上記事後確率分布においてxCTRは次式により求められる。
xCTR=(1+クリック数)÷(2+表示回数) ・・・(E1)
Further, the expected value of the beta distribution is calculated as an expected value of the click rate of the advertisement (hereinafter referred to as xCTR (eXpected Click Through Rate)).
Since the expected value (xCTR) of the beta distribution Be (α, β) is α ÷ (α + β), the xCTR in the posterior probability distribution is obtained by the following equation.
xCTR = (1 + click count) ÷ (2 + display count) (E1)
図2は、ある広告Aが表示された回数(表示回数、インプレッション数とも呼ばれる。)が10回であり、広告Aがクリックされた数(クリック数)が2である場合の事後確率分布Be(1+2,1+10−2)=Be(3,9)を示すグラフである。ここでCTR=クリック数÷表示回数=2÷10=0.2となり、xCTR=Be(3,9)の期待値=(1+2)÷(10+2)=0.25となる。 FIG. 2 shows the posterior probability distribution Be () when the number of times an advertisement A is displayed (also called the number of display times and the number of impressions) is 10, and the number of clicks on the advertisement A (the number of clicks) is 2. 1 + 2, 1 + 10−2) = Be (3, 9). Here, CTR = click number / display count = 2 ÷ 10 = 0.2, and xCTR = Be (3,9) expected value = (1 + 2) ÷ (10 + 2) = 0.25.
==(4)CTRのヒストグラム==
上述したように本実施形態では、CTRの実績値(以下、予測CTRという。)の頻度を示すヒストグラムに基づいて事後分布を補正する。ヒストグラムの作成方法には一般的なものを採用することができる。たとえば、各広告について、広告がクリックされた回数(クリック数)を広告が表示された回数(表示回数)で割って予測CTRを算出し、これを所定の区間ごとに頻度を集計して離散的なヒストグラム関数を作成することができる。なお、ヒストグラムは図3のように等幅区間とせずに各区間に任意の幅を持たせるようにしてもよい。図3に、0.01%の等幅区間のCTRごとに、CTRがこの区間に入る広告数を集計したヒストグラムの一例を示す。また図4に、区間によって幅の異なるヒストグラムの一例を示す。
== (4) CTR histogram ==
As described above, in this embodiment, the posterior distribution is corrected based on the histogram indicating the frequency of the actual value of CTR (hereinafter referred to as predicted CTR). A general method can be employed as a method of creating the histogram. For example, for each advertisement, a predicted CTR is calculated by dividing the number of times the advertisement is clicked (number of clicks) by the number of times the advertisement is displayed (number of times displayed). A simple histogram function can be created. Note that the histogram may have an arbitrary width in each section instead of the equal width section as shown in FIG. FIG. 3 shows an example of a histogram in which the number of advertisements in which the CTR enters this section is tabulated for each CTR of the equal width section of 0.01%. FIG. 4 shows an example of a histogram having a different width depending on the section.
このようなヒストグラムの頻度h(CTR)を事後分布Be(α,β)に乗じて補正した分布(以下、学習後分布という。)L(h;α,β)を作成し、学習後分布L(h;α,β)の代表値に基づいて広告の評価値が算出される。 A distribution (hereinafter referred to as post-learning distribution) L (h; α, β) obtained by multiplying the histogram frequency h (CTR) by the posterior distribution Be (α, β) to create a post-learning distribution L An advertisement evaluation value is calculated based on the representative value of (h; α, β).
図5は、図4のヒストグラム3、事後分布4および学習後分布5をプロットしたグラフである。学習後分布5は、事後分布4にヒストグラム3を乗じた値となっており、この最頻値(=CTR)または期待値(=xCTR)に応じて広告の評価値が算出される。
FIG. 5 is a graph in which the histogram 3, the posterior distribution 4 and the
==(4)xCTRの推定==
学習後分布L(h;α,β)は、予測CTRをxとして次式(E2)で表される。
なお、Kは、学習後分布Lの面積を1に正規化するための定数である。
== (4) xCTR estimation ==
The post-learning distribution L (h; α, β) is expressed by the following equation (E2) where the predicted CTR is x.
K is a constant for normalizing the area of the post-learning distribution L to 1.
ここで、代表値として期待値(xCTR)を採用する場合、xCTRは次式により算出されることになる。
ここで、区間iの頻度をhiとし、式E3の分母に係る区間iの面積は、次式E4により求められる。
これは、不完全ベータ関数B(di;α,β)から不完全ベータ関数B(di−1;α,β)を引いたものに、頻度hiおよび1/B(α,β)を乗じたこととなり、次式E5に変形できる。
式E3の分子に係る区間iについても同様に次式E5’を求めることができる。
したがって、上記式E3は、次式E6のように書き換えることができる。
ここで、不完全ベータ関数B(0;α,β)=0であるので、式E6はさらに次式E7のように変形できる。
なお、最終区間Nの次の区間N+1の頻度hN+1=0である。
Here, when the expected value (xCTR) is adopted as the representative value, xCTR is calculated by the following equation.
Here, the frequency of the section i is h i, and the area of the section i related to the denominator of the expression E3 is obtained by the following expression E4.
This incomplete beta function B (d i; α, β ) incomplete beta function B (d i-1; α , β) minus the frequency h i and 1 / B (α, β) Can be transformed into the following equation E5.
Similarly, the following equation E5 ′ can be obtained for the interval i related to the numerator of the equation E3.
Therefore, the above equation E3 can be rewritten as the following equation E6.
Here, since the incomplete beta function B (0; α, β) = 0, the expression E6 can be further transformed into the following expression E7.
Note that the frequency h N + 1 of the section N + 1 next to the last section N is zero.
区間iの頻度hiから区間i+1の頻度hi+1を引いた差をg(i)とする。図6は、図4のヒストグラムhから作成された差の関数g(i)を表す分布図である。正規化不完全ベータ関数Iθ(α,β)=B(θ;α,β)÷B(α,β)であるので、式E7はさらに式E8に変形できる。
以上より、式E1で算出される事後確率分布の期待値をxCTR(α,β)、学習後分布の期待値をxCTR(g;α,β)とすると、xCTR(g;α,β)は次式(E9)により求められることになる。
すなわち、区間iにおけるCTRの最大値をdiとし、正規化不完全ベータ関数Idi(α,β)に差g(i)を乗算した値を全ての区間について合計した値を除数とし、正規化不完全ベータ関数Idi(α+1,β)に差g(i)を乗算したものを全ての区間について合計した値を被除数とした除算結果が期待値xCTR(g;α,β)となる。
A difference obtained by subtracting the frequency h i + 1 of the section i + 1 from the frequency h i of the section i is defined as g (i). FIG. 6 is a distribution diagram representing the difference function g (i) created from the histogram h of FIG. Since the normalized incomplete beta function I θ (α, β) = B (θ; α, β) ÷ B (α, β), equation E7 can be further transformed into equation E8.
From the above, if the expected value of the posterior probability distribution calculated by the equation E1 is xCTR (α, β) and the expected value of the post-learning distribution is xCTR (g; α, β), xCTR (g; α, β) is It is obtained by the following equation (E9).
That is, the maximum value of CTR in interval i is denoted by d i , the value obtained by multiplying the normalized incomplete beta function I di (α, β) by the difference g (i) for all intervals is taken as a divisor, A division result obtained by dividing a value obtained by multiplying the difference incomplete beta function I di (α + 1, β) by the difference g (i) for all the intervals becomes an expected value xCTR (g; α, β).
上記式(E9)により算出される期待値xCTR(g;α,β)またはこのxCTR(g;α,β)に入札額を乗じたxCPM(g;α,β)が広告の評価値として用いられる。 The expected value xCTR (g; α, β) calculated by the above formula (E9) or xCPM (g; α, β) obtained by multiplying this xCTR (g; α, β) by the bid amount is used as the evaluation value of the advertisement. It is done.
==(5)CTRの推定==
ヒストグラムの頻度h(CTR)は階段状であり、ある区間iの最大値diにおける頻度h(di)と、次の区間i+1の最小値ciにおける頻度h(ci)との間には差が生じる。したがって、上記式(E2)から、学習後分布L(h;α,β)においても、図5に示されるように、区間の最小値ciまたは最大値diにおいて大きな変化が生じることになる。また、たとえばヒストグラムの頻度h(CTR)にばらつきがない場合などには、事後分布Be(α,β)の最頻値に対応するCTRと、学習後分布L(h;α,β)の最頻値に対応するCTRとが一致することになる。したがって、学習後分布L(h;α,β)における最頻値は、CTRが、事後分布Be(α,β)の最頻値に対応するCTRであるとき、または、ヒストグラムにおける区間内の最小値または最大値のときである。
== (5) CTR estimation ==
The frequency h (CTR) of the histogram is stepwise, and is between the frequency h (d i ) at the maximum value d i in a certain section i and the frequency h (c i ) at the minimum value c i in the next section i + 1. Makes a difference. Therefore, from the above formula (E2), also in the post-learning distribution L (h; α, β), as shown in FIG. 5, a large change occurs in the minimum value c i or the maximum value d i of the section. . For example, when there is no variation in the histogram frequency h (CTR), the CTR corresponding to the mode of the posterior distribution Be (α, β) and the maximum of the post-learning distribution L (h; α, β) are used. The CTR corresponding to the frequent value matches. Therefore, the mode value in the post-learning distribution L (h; α, β) is the minimum value in the interval in the histogram when the CTR is the CTR corresponding to the mode value of the posterior distribution Be (α, β). When the value or maximum value.
図5に示すように、事後分布4の最頻値に対応するCTRをmとした場合、mが含まれるヒストグラム3の区間において、学習後分布5においても確率密度の微分値が0となって最頻値となりうる。また、CTRがmよりも小さい場合、学習後分布5の確率密度は、ヒストグラム3の各区間内ではCTRが大きいほど大きくなるので、CTRが区間iの最大値(以下、右側CTRという。本発明の右側確率に該当する。)diである場合に学習後分布5の最頻値となりうる。逆にCTRがmよりも大きい場合、学習後分布5の確率密度は、ヒストグラム3の各区間内ではCTRが大きいほど小さくなるので、CTRが区間iの最小値(以下、左側CTRという。本発明の左側確率に該当する。)ciである場合に学習後分布5の最頻値となりうる。したがって、学習後分布5における最頻値CTR(h;α,β)は、事後分布4の最頻値mに一致するCTR、mより小さい右側CTRdi、およびmより大きい左側CTRciについてのみ、ヒストグラム関数hにより重み付けを行った確率密度が最大となる場合のCTRであり、学習後分布5における最頻値CTR(h;α,β)は、次式(E10)により算出される。
As shown in FIG. 5, when the CTR corresponding to the mode value of the posterior distribution 4 is m, the probability density differential value is 0 in the
上記式(E10)により算出される最頻値CTR(h;α,β)またはこのCTR(h;α,β)に入札額を乗じたeCPM(h;α,β)が広告の評価値として用いられる。 The mode value CTR (h; α, β) calculated by the above formula (E10) or eCPM (h; α, β) obtained by multiplying the CTR (h; α, β) by the bid amount is used as the evaluation value of the advertisement. Used.
==(6)システム構成==
図7は本実施形態の広告配信システムの全体構成を示す図である。本実施形態の広告配信システムは、ユーザ端末10と通信ネットワーク30を介して通信可能に接続されるWebサーバ20を含んで構成される。
== (6) System Configuration ==
FIG. 7 is a diagram showing the overall configuration of the advertisement distribution system of this embodiment. The advertisement distribution system according to the present embodiment includes a
通信ネットワーク30は、例えば公衆電話回線網や専用通信回線網、携帯電話回線網、無線通信網、イーサネット(登録商標)などにより構築される、インターネットやLAN(Local Area Network)である。
The
Webサーバ20は、画像や動画、テキストなどの各種のコンテンツをHTTP(HyperText Transfer Protocol)に従って提供する、例えばワークステーションやパーソナルコンピュータなどのコンピュータである。ユーザ端末10は、Webサーバ20が提供する各種のWebページを閲覧するブラウザを動作させる、例えばパーソナルコンピュータやタブレットコンピュータ、携帯電話端末、PDA(Personal Digital Assistant)などのコンピュータである。
The
==(7)Webサーバ20のハードウェア構成==
図8はWebサーバ20のハードウェア構成例を示す図である。Webサーバ20は、CPU201、メモリ202、記憶装置203、通信インタフェース204、入力装置205、出力装置206を備える。記憶装置203は、各種のデータやプログラムを記憶する、例えばハードディスクドライブやソリッドステートドライブ、フラッシュメモリなどである。通信インタフェース204は、通信ネットワーク30に接続するためのインタフェースであり、例えばイーサネット(登録商標)に接続するためのアダプタ、公衆電話回線網に接続するためのモデム、無線通信を行うための無線通信機、シリアル通信のためのUSB(Universal Serial Bus)コネクタやRS232Cコネクタなどである。入力装置205は、データを入力する、例えばキーボードやマウス、タッチパネル、ボタン、マイクロフォンなどである。出力装置206は、データを出力する、例えばディスプレイやプリンタ、スピーカなどである。
== (7) Hardware Configuration of
FIG. 8 is a diagram illustrating a hardware configuration example of the
==(8)Webサーバ20のソフトウェア構成==
図9はWebサーバ20のソフトウェア構成例を示す図である。Webサーバ20は、HTTP処理部211、Webページ作成部212、広告選択部213、ログ収集部214、Web情報データベース251、広告データベース252、インプレッションログ記憶部253、クリックログ記憶部254、ヒストグラム記憶部255を備えている。
== (8) Software Configuration of
FIG. 9 is a diagram illustrating a software configuration example of the
なお、HTTP処理部211、Webページ作成部212、広告選択部213、ログ収集部214の各機能部は、Webサーバ20が備えるCPU201が記憶装置202に記憶されているプログラムを実行することにより実現され、Web情報データベース251、広告データベース252、インプレッションログ記憶部253、クリックログ記憶部254、ヒストグラム記憶部255の各記憶部は、Webサーバ20が備えるメモリ202及び記憶装置203が提供する記憶領域の一部として実現される。
Note that the functional units of the
==(9)記憶部の説明==
(9−1)Web情報データベース251
Web情報データベース251は、Webページを作成するための情報(以下、Web情報という。)を記憶する。Web情報は、例えば、HTMLで記述されたファイルや、CGI(Common Gateway Interface)などの仕組みにより実行されるプログラムを格納したプログラムファイル、画像ファイルなどである。Web情報データベース251は、例えば、Webサーバ20で動作するオペレーティングシステムが提供するファイルシステムのディレクトリやフォルダにより実現することができる。
== (9) Description of Storage Unit ==
(9-1)
The
(9−2)広告データベース252
広告データベース252は、広告を表示するための情報(以下、広告情報という。)を記憶する。図10は、広告データベース252に記憶される広告情報の構成例を示す図である。広告情報には、広告の識別情報である広告IDに対応付けて、広告のカテゴリ、広告に関するURL(Uniform Resource Locator)、広告のタイトル、及び、入札額が含まれる。入札額は、広告がクリックされた場合に広告主から支払われる単価であり、広告主により決定される。
(9-2)
The
本実施形態では、タイトルの文字列を画面1の広告2として表示するものとする。広告2には広告IDを指定した所定のURL(ホスト名にWebサーバ20が指定されるものとする。以下、リダイレクトURLという。)へのリンクが設定される。広告2がクリックされると、広告IDを含むリクエストがWebサーバ20に送信され、後述するログ収集部214によりクリックされたことのログが収集され、HTTP処理部211により広告IDに対応する広告情報のURLにリダイレクトされる(例えば、当該URLをリダイレクト先として指定した応答が送信される。)。これにより、広告に応じたユーザの行動(クリック)を検知することができる。
In the present embodiment, the character string of the title is displayed as the
なお、広告として画像や動画などを表示し、あるいは音声を出力させるようにしてもよく、その場合には、例えば広告情報には、広告として表示する画像や動画のデータを示すURLを追加するようにすることができる。 In addition, you may make it display an image, a moving image, etc. as an advertisement, or you may make it output an audio | voice, and in that case, URL which shows the data of the image displayed as an advertisement, or a moving image may be added, for example Can be.
(9−3)インプレッションログ記憶部253
インプレッションログ記憶部253は、ユーザの閲覧した画面に広告が表示されたこと(インプレッションと呼ばれる。)を示す情報(以下、インプレッションログという。)を記憶する。図11は、インプレッションログ記憶部253に記憶されるインプレッションログの構成例を示す図である。インプレッションログには、画面1に広告2が表示された日時(配信日時)、画面1に表示された広告2を示す広告ID及び当該広告のカテゴリが含まれる。
(9-3) Impression
The impression
図1の画面1の例では、3つの広告2が表示されているので、ユーザがWebページ1を1度閲覧すると3つのインプレッションログが登録されることになる。
In the example of the
(9−4)クリックログ記憶部254
クリックログ記憶部254(本発明の行動履歴記憶部に該当する。)は、ユーザが画面1に表示された広告2をクリックしたことを示す情報(以下、クリックログという。)を記憶する。図12は、クリックログ記憶部254に記憶されるクリックログの構成例を示す図である。クリックログには、クリックされた広告2を示す広告ID、当該広告のカテゴリ、及び日時(クリック日時)が含まれる。
(9-4) Click
The click log storage unit 254 (corresponding to the action history storage unit of the present invention) stores information indicating that the user has clicked the
(9−5)ヒストグラム記憶部255
ヒストグラム記憶部255は、クリックログおよびインプレッションログに基づいて作成される、図3,図4に示すような、予測CTRごとの広告の出現頻度を示すヒストグラムを作成するためのヒストグラム関数h(x)を記憶する。なお、xは予測CTRである。予測CTRの区間が等幅の場合、ヒストグラム記憶部255はヒストグラム関数として、たとえば、各区間について、何番目の区間かを示す区間番号に対応付けて頻度を記憶するようにすることができる。また、予測CTRの区間の幅が等間隔でない場合、ヒストグラム記憶部255はヒストグラム関数として、たとえば、区間番号、区間内の左側CTRおよび右側CTRに対応付けて頻度を記憶するようにすることができる。また、ヒストグラム記憶部255は、数式を表す情報としてヒストグラム関数を記憶するようにしてもよいし、頻度、左型CTRおよび右側CTRなどを出力するプログラムとしてヒストグラム関数を記憶するようにしてもよい。
(9-5)
The
また、代表値が期待値である場合には、ヒストグラム記憶部255は、図6に示すような分布を作成するための差の関数g(i)を記憶する。なお、iは区間番号である。差関数g(i)は、たとえば、区間番号iに対応付けて区間iの頻度hiと、次の区間i+1の頻度hi+1との差のg(i)を記憶する。
When the representative value is an expected value, the
==(10)機能部の説明==
(10−1)HTTP処理部211
HTTP処理部211は、HTTPの処理を行う。HTTP処理部211は、ユーザ端末10から送信されるHTTPのリクエストを受信する。
リクエストにリダイレクトURLが指定されていた場合、HTTP処理部211は、ログ収集部214を呼び出してクリックログを登録させた上で、リクエストに含まれている広告IDに対応する広告情報を広告データベース252から読み出し、読み出した広告情報に含まれているURLをリダイレクト先として指定した応答をユーザ端末10に応答する。
== (10) Description of Functional Units ==
(10-1)
The
When the redirect URL is specified in the request, the
リクエストにリダイレクトURL以外の、Webページを示すURLが指定された場合には、HTTP処理部211は、Webページ作成部212を呼び出してWebページを表示するための情報(以下、画面情報という。画面情報は例えばHTMLファイルである。)を作成させ、Webページ作成部212が作成した画像情報をユーザ端末10に応答し、ログ収集部214を呼び出してインプレッションログを登録させる。
When a URL indicating a Web page other than the redirect URL is specified in the request, the
(10−2)Webページ作成部212
Webページ作成部212(本発明の広告出力部に該当する。)は、Webページを表示するための画面情報を作成する。Webページ作成部212は、広告選択部213を呼び出して画面1に表示させる広告2を選択させ、選択された広告が広告2として表示され、広告2がクリックされた場合には、リダイレクトURLにアクセスするように、例えばリンクタグを設定した文字列を画面情報に挿入する。なお、Webページ作成部212が、広告2以外の各種のコンテンツを作成する処理については、一般的なWebサーバによる処理を用いるものとして、ここでは説明を省略する。
(10-2) Web
The web page creation unit 212 (corresponding to the advertisement output unit of the present invention) creates screen information for displaying a web page. The web
(10−3)広告選択部213
広告選択部213は、Webページに表示する広告を選択する。広告選択部213は、配信候補抽出部231、ヒストグラム作成部232、広告評価算出部233、広告決定部234を備えている。なお、配信候補抽出部231、ヒストグラム作成部232、広告評価算出部233、広告決定部234も、CPU201が記憶装置203に記憶されているプログラムをメモリ202に読み出して実行することにより実現される。
(10-3)
The
(10−3−1)配信候補抽出部231
配信候補抽出部231は、広告の候補を決定する。配信候補抽出部231は、広告データベース252から所定数(例えば10個や50個、100個など、任意の数を指定することができる。)の広告情報を読み出す。本実施形態では、配信候補抽出部231は、ランダムに所定数の広告情報を読み出すものとするが、例えば、コンテンツの内容やユーザの属性に応じて広告情報を読み出すようにしてもよい。なお、配信候補抽出部231が、数ある広告の中から所定数の広告を選択する処理については、一般的な広告の選択処理を用いることもできる。
(10-3-1) Distribution
The distribution
(10−3−2)ヒストグラム作成部232
ヒストグラム作成部232(本発明の行動率取得部に該当する。)はヒストグラム関数h(x)を作成する。なお、xは予測CTRである。具体的には、ヒストグラム作成部232は、各広告について、当該広告を示す広告IDに対応するクリックログおよびインプレッションログの数をカウントしてそれぞれクリック数および表示回数とし、クリック数を表示回数で割って予測CTRを算出する。ヒストグラム作成部232は、所定の区間(たとえば0.01%ごとなどの任意の等幅の区間としてもよいし、等幅でない任意の長さの区間であってもよい。)ごとに、当該区間内の予測CTRである広告の数をカウントして頻度を算出する。ヒストグラム作成部232は、予測CTRの区間が等幅である場合、区間番号に対応付けて頻度を記憶ヒストグラム記憶部255に登録する。また、予測CTRの区間の幅が等間隔でない場合、ヒストグラム作成部232は、区間番号に対応付けて、頻度を区間の幅で割ってヒストグラム記憶部255に登録する。すなわち、この場合のヒストグラムは、頻度はバーの高さではなくバーの面積(高さ×幅)で表現される。
(10-3-2)
The histogram creation unit 232 (corresponding to the action rate acquisition unit of the present invention) creates a histogram function h (x). Note that x is the predicted CTR. Specifically, for each advertisement, the
なお、ヒストグラム作成部232は、任意のタイミングでヒストグラム関数h(x)を作成することができる。たとえば、ヒストグラム作成部232は、所定時間(たとえば、1時間、1日、1週間など任意の時間とすることができる。)ごとに作成してもよいし、ユーザからの指示に応じて作成してもよい。また、ヒストグラム作成部232は、クリックログまたはインプレッションログが所定数登録された場合に作成してもよいし、HTTP処理部211がリクエストを受信するたびに作成してもよい。
The
ヒストグラム作成部232は、代表値を期待値とする場合には、図6に示すような分布を作成するための差の関数g(i)を作成する。すなわち、ヒストグラム作成部232は、各区間iについて、当該区間の頻度hiと、次の区間i+1の頻度hi+1との差のg(i)を算出し、区間iごとに、iに対応付けてg(i)をヒストグラム記憶部255に登録する。
When the representative value is the expected value, the
(10−3−3)広告評価算出部233
広告評価算出部233(本発明の確率分布作成部、代表値算出部、および広告評価部に対応する。)は、広告の評価値を算出する。上述したように、広告の評価値は、学習後事後分布の最頻値CTR(h;α,β)もしくは期待値xCTR(g;α,β)または、これらに入札額を乗じたxCPMである。
(10-3-3) Advertisement
The advertisement evaluation calculation unit 233 (corresponding to the probability distribution creation unit, the representative value calculation unit, and the advertisement evaluation unit of the present invention) calculates the evaluation value of the advertisement. As described above, the evaluation value of the advertisement is the mode CTR (h; α, β) or the expected value xCTR (g; α, β) of the learned posterior distribution, or xCPM obtained by multiplying these by the bid amount. .
広告評価算出部233は、配信候補抽出部231が決定した広告候補のそれぞれについて、インプレッションログ記憶部253から当該広告候補に対応するインプレッションログの数をカウントして表示回数とし、クリックログ記憶部254から当該広告候補に対応するクリックログの数をカウントしてクリック数とする。
The advertisement
代表値として期待値を用いる場合には、広告評価算出部233は、ヒストグラム作成部232が作成したヒストグラムの各区間iにおけるCTRの最大値diと、ヒストグラム作成部232が作成した差の関数g(i)と、上記算出したクリック数および表示回数を式(E9)に与えて、学習後分布の期待値xCTR(g;α,β)を当該広告のクリック率の推定値として算出する。
When the expected value is used as the representative value, the advertisement
代表値として最頻値を用いる場合には、広告評価算出部233は、ヒストグラム作成部232が作成したヒストグラムの各区間iにおけるCTRの最小値ciおよび最大値diと、ヒストグラム作成部232が作成したヒストグラム関数h(CTR)と、事後分布Be(α,β)における最頻値m(=クリック数÷表示回数)と、上記算出したクリック数および表示回数を式(E10)に与えて、学習後分布のCTR(h;α,β)を当該広告のクリック率の推定値として算出する。
When the mode value is used as the representative value, the advertisement
広告評価算出部233は、算出した推定値または推定値に入札額を乗じた値を広告評価値として決定する。
The advertisement
(10−3−4)広告決定部234
広告決定部234は、配信候補抽出部231が決定した候補の中から表示する広告を決定する。広告決定部234は、広告評価算出部233が算出した広告評価値の大きい順に所定数(図1の例では3つ)の広告を、表示する広告として決定する。
(10-3-4)
The
(10−4)ログ収集部214
ログ収集部214は、インプレッションログ及びクリックログを登録する。ログ収集部214は、HTTPにリダイレクトURLが指定されていた場合には、リダイレクトURLに指定されている広告IDに対応するカテゴリを広告データベース252から読み出し、当該広告ID、読み出したカテゴリ、及び現在の日時を設定したクリックログを作成してクリックログ記憶部254に登録する。HTTPにリダイレクトURL以外のURLが指定されていた場合には、ログ収集部214は、広告選択部213が選択した広告のそれぞれについて、現在日時、広告を示す広告ID、及び当該広告のカテゴリを含むインプレッションログを作成してインプレッションログ記憶部253に登録する。
(10-4)
The
==(11)処理==
図13は、Webサーバ20により行われる処理の流れを示す図である。
HTTP処理部211は、ユーザ端末10からHTTPのリクエストを受信すると(S401)、リクエストにリダイレクトURLが指定されているか否かにより、広告がクリックされたか否かを判定する(S402)。
== (11) Processing ==
FIG. 13 is a diagram illustrating a flow of processing performed by the
When receiving an HTTP request from the user terminal 10 (S401), the
広告がクリックされたと判定した場合(S402:YES)、ログ収集部214は、リダイレクトURLに設定されている広告IDに対応する広告情報を広告データベース252から読み出し、リクエストに設定されている広告ID、広告情報のカテゴリ及び現在日時を含むクリックログを作成してクリックログ記憶部254に登録する(S403)。HTTP処理部211は、広告情報のURLにリダイレクトするようにHTTPのレスポンスをユーザ端末10に送信する(S404)。
When it is determined that the advertisement is clicked (S402: YES), the
一方、広告がクリックされていないと判断した場合には(S402:NO)、図11の処理により広告選択部213が選択した広告の広告情報を含む広告リストを作成する(S405)。なお、図11に示す広告情報の選択処理については後述する。
On the other hand, if it is determined that the advertisement has not been clicked (S402: NO), an advertisement list including the advertisement information of the advertisement selected by the
Webページ作成部212は、リクエストに応じて各種のコンテンツを表示するためのHTMLファイルなどの画面情報を作成する(S406)。なお、ステップS406における画面情報の作成処理は、一般的なWebサーバによる処理を採用することができる。
The web
Webページ作成部212は、広告リストに含まれる各広告情報について、所定のURLの引数に広告情報に含まれる広告IDを設定したリダイレクトURLを作成する(S407)。リダイレクトURLは、例えば「www.foobar.com/ad?id=xxxx」という形式とすることができる。Webページ作成部212は、広告リストに含まれる各広告情報について、広告情報に含まれるタイトルを内容として含むリダイレクトURLへのリンクタグ(例えば、「<a href="http://www.foobar.com/ad?id=xxxx">タイトル</a>」という形式とすることができる。)を画面情報に挿入する(S408)。
The Web
HTTP処理部211は、作成された画面情報をリクエストへの応答としてユーザ端末10に送信する(S409)。ログ収集部214は、広告リストに含まれる各広告情報について、広告情報に含まれる広告ID及びカテゴリ、並びに現在日時を含むインプレッションログを作成してインプレッションログ記憶部253に登録する(S410)。
The
==(12)広告の選択処理==
図14は、ステップS405における広告の選択処理の流れを示す図である。
配信候補抽出部231は、広告データベース252から所定数a個の広告情報を抽出する(S421)。なお、広告データベース252からどのような広告情報を抽出するかは任意に設定可能である。例えば、ランダムにa個の広告情報を抽出するようにしてもよいし、広告情報のタイトルがコンテンツにマッチする度合いの高い順にa個の広告情報を抽出するようにしてもよいし、ユーザが興味を有しているカテゴリをユーザ情報の属性として記憶しておき、そのカテゴリにマッチする広告情報をa個抽出するようにしてもよい。
== (12) Advertisement selection process ==
FIG. 14 is a diagram showing the flow of advertisement selection processing in step S405.
The distribution
広告評価算出部233は、抽出した広告情報のそれぞれについて以下の処理を行う。
広告評価算出部233は、インプレッションログ記憶部253から、広告情報に含まれる広告IDに対応するインプレッションログの数をカウントして表示回数とし(S422)、クリックログ記憶部254から、当該広告IDに対応するクリックログの数をカウントしてクリック数とする(S423)。
The advertisement
The advertisement
代表値として期待値(xCTR)を用いる場合には(S424:YES)、広告評価算出部233は、図15に示す広告評価値の算出処理を行う(S425)。すなわち、広告評価算出部233は、表示回数に2を加算した値を除数とし、クリック数に1を加算した値を被除数とする除算によりxCTRを算出し(S441)、ヒストグラム記憶部255からヒストグラム関数hを読み出し(S442)、ヒストグラム記憶部255から差関数gを読み出し(S443)、上記式(E9)によりxCTR(g;α,β)を算出する(S444)。広告評価算出部233は、xCTR(g;α,β)または広告情報に含まれる入札額をxCTR(g;α,β)に乗じたxCPM(g;α,β)を広告評価値とする(S445)。
When the expected value (xCTR) is used as the representative value (S424: YES), the advertisement
一方、代表値として最頻値(CTR)を用いる場合には(S424:NO)、広告評価算出部233は、図16に示す広告評価値の算出処理を行う(S426)。すなわち、広告評価算出部233は、クリック数をuとし(S461)、表示回数からクリック数を引いた値をvとし(S462)、(u÷v)を事後分布の最頻値mとし(S463)、ヒストグラム記憶部255からヒストグラム関数hを読み出し(S464)、関数hに基づいて、ヒストグラムの各区間iについて左側確率ciおよび右側CTRdiを取得して(S465)、上記式(E10)によりCTR(h;α,β)を算出する(S466)。広告評価算出部233は、CTR(h;α,β)または広告情報に含まれる入札額をCTR(h;α,β)に乗じたeCPM(h;α,β)を広告評価値とする(S467)。
On the other hand, when the mode (CTR) is used as the representative value (S424: NO), the advertisement
広告評価算出部233は、以上の処理を各広告情報について行った後、広告評価値の大きい順にn個の広告情報を選択して広告リストとする(S427)。
After performing the above processing for each advertisement information, the advertisement
==(13)効果==
以上説明したように、本実施形態の広告配信システムでは、過去の多数の広告についてのCTRの実績値をヒストグラムにし、このヒストグラムにより事後分布に重み付けを行ったうえで、予測対象の広告についてのCTRを推定することができる。図2の例の事後分布では最頻値は0.2(20%)となっており、図3に示すヒストグラムにおいて0.2の頻度は比較的小さいため、経験的に図2の事後分布における最頻値0.2のCTRの推定値としての妥当性も比較的低いと考えられるところ、過去のCTRの実績値のヒストグラムにより事後分布に重み付けを行うことにより、経験則に応じて事後分布を補正したうえでCTRを推定することができるので、推定の精度および推定値の妥当性が向上することが期待される。特に数多くの広告のログがある場合には、実際に頻度の高かったCTRについて多くの重み付けを行うことができるので、さらにCTRの推定値の精度を向上することができる。
== (13) Effect ==
As described above, in the advertisement distribution system of the present embodiment, the CTR performance values for a large number of past advertisements are used as histograms, and the posterior distribution is weighted by the histograms, and then the CTRs for the advertisements to be predicted are used. Can be estimated. In the posterior distribution of the example of FIG. 2, the mode is 0.2 (20%), and the frequency of 0.2 is relatively small in the histogram shown in FIG. Since the validity of the mode value CTR as an estimated value of 0.2 is considered to be relatively low, the posterior distribution is weighted according to the empirical rule by weighting the posterior distribution with a histogram of past CTR performance values. Since the CTR can be estimated after correction, it is expected that the accuracy of the estimation and the validity of the estimated value are improved. In particular, when there are a large number of advertisement logs, a large amount of weighting can be performed on CTR that is actually frequently performed, so that the accuracy of the estimated value of CTR can be further improved.
また、本実施形態の広告配信システムでは、このCTRの推定値を用いて広告の評価値を決定しているので、広告の評価を精度良く行うことができる。 Further, in the advertisement distribution system of the present embodiment, the evaluation value of the advertisement is determined using the estimated value of CTR, so that the advertisement can be evaluated with high accuracy.
また、本実施形態のように、精度良く推定されたxCTR(またはxCTRに入札額を乗じたxCPM)の大きい順に広告を表示するようにすることで、広告がクリックされる確率(または広告収益)を向上させることができる。 In addition, as in the present embodiment, by displaying the advertisements in descending order of xCTR (or xCPM obtained by multiplying xCTR by a bid amount) accurately estimated, the probability that the advertisement is clicked (or advertising revenue) Can be improved.
また、代表値として期待値を用いる場合、ベイズ推定による事後分布の期待値xCTRは、表示回数およびクリック数を観測した後において、広告がクリックされる確率の妥当な推定値であると考えられるので、表示回数が少ないような場合であっても、広告の評価を正確に行うことが可能となる。したがって、本実施形態のように、xCTR(またはxCTRに入札額を乗じたxCPM)を広告の評価値として用いることにより、より正確に広告の評価を行うことが可能となる。 When the expected value is used as the representative value, the expected value xCTR of the posterior distribution based on Bayesian estimation is considered to be a reasonable estimated value of the probability that the advertisement is clicked after observing the number of display times and the number of clicks. Even when the number of times of display is small, it is possible to accurately evaluate the advertisement. Therefore, as in this embodiment, by using xCTR (or xCPM obtained by multiplying xCTR by a bid amount) as an evaluation value of an advertisement, it is possible to evaluate the advertisement more accurately.
その一方で、事後分布の期待値は式(E1)のように比較的単純な計算式により算出することができる。従来のクリック率の算出式と比較してもそれ程計算負荷は高くならないと考えられる。よって、処理負荷を上げることなく、広告効果を向上させることができる。 On the other hand, the expected value of the posterior distribution can be calculated by a relatively simple calculation formula like the formula (E1). Even if compared with the conventional formula for calculating the click rate, the calculation load is not so high. Therefore, the advertising effect can be improved without increasing the processing load.
また、代表値として最頻値を用いる場合、本実施形態の広告配信システムでは、式E10に示すように、事後分布の最頻値m、mより小さい右側CTRdi、およびmより大きい左側CTRciについてのみヒストグラムにより重み付けを行った確率密度を計算しているので、すべてのCTRについて重み付けした確率密度を計算するよりも計算負荷を低減することができる。 Further, when the mode value is used as the representative value, in the advertisement distribution system of the present embodiment, as shown in Expression E10, the mode value m of the posterior distribution, the right side CTRd i smaller than m, and the left side CTRc i larger than m. Since the probability density weighted with respect to only the CTR is calculated, the calculation load can be reduced compared with calculating the weighted probability density for all CTRs.
==(14)変形例==
なお、本実施形態では事前分布は一様分布Be(1,1)を前提としたが、これに限らず、任意の事前分布を設定するようにしてもよい。たとえば、全ての広告について、あるいは広告のカテゴリごとにカテゴリが同じ広告について、クリック数Aおよび表示回数Bをインプレッションログ記憶部253およびクリックログ記憶部254からカウントし、これに基づいて一様分布Be(1,1)を事前分布とした事後分布Be(1+A,1+B−A)を算出しておき、この事後分布Be(1+A,1+B−A)を事前分布として、xCTRを計算するようにしてもよい。すなわち、式(E1)は、次のようになる。
xCTR=(1+A+クリック率)÷(2+B+表示回数)・・・(E1’)
== (14) Modification ==
In the present embodiment, the prior distribution is premised on the uniform distribution Be (1, 1). However, the present invention is not limited to this, and an arbitrary prior distribution may be set. For example, the click number A and the display frequency B are counted from the impression
xCTR = (1 + A + click rate) ÷ (2 + B + number of display times) (E1 ′)
また、本実施形態では、広告の配信時点においてxCTR(g;α,β)またはCTR(h;α,β)を算出するものとしたが、これに限らず、事前に各広告情報についてxCTR(g;α,β)またはCTR(h;α,β)を計算し、これに基づいて広告評価値を算出しておき、事前に計算した広告評価値の大きい順に表示広告を選択するようにしてもよい。この場合、たとえば、広告情報に広告評価値を含めるようにし、ログ収集部214がインプレッションログやクリックログをインプレッションログ記憶部253やクリックログ記憶部254に登録したタイミングで広告評価算出部233が広告評価値を算出して広告情報を更新するようにすることができる。また、広告評価算出部233が、定期的にインプレッションログ記憶部253およびクリックログ記憶部254に基づいて広告評価値を更新するようにしてもよい。
In this embodiment, xCTR (g; α, β) or CTR (h; α, β) is calculated at the time of advertisement distribution. However, the present invention is not limited to this, and xCTR ( g; α, β) or CTR (h; α, β) is calculated, an advertisement evaluation value is calculated based on the calculated value, and display advertisements are selected in descending order of the previously calculated advertisement evaluation value. Also good. In this case, for example, the advertisement evaluation value is included in the advertisement information, and the advertisement
また、Webサーバ20は、クリック数と表示回数とに対応付けて広告評価値を記憶する評価表を備えるようにしてもよい。これにより、広告評価値の計算に係る処理負荷を軽減することができる。
The
また、本実施形態は、広告2はWebページ1の一部に表示されるものとしたが、これに限らず、広告2のみが表示される画面がユーザ端末10において表示されるようにしてもよいし、広告2がコンテンツとは異なる別画面に表示されるようにしてもよい。
In the present embodiment, the
==(15)変形例:連続的なヒストグラム==
また、本実施形態では、区間毎の頻度をカウントした離散型のヒストグラムを用いることを前提としたが、これに限らず、たとえばパルツェン窓(カーネル密度推定)などの手法による確率密度推定を用いて連続的なヒストグラム関数hを作成するようにしてもよい。この場合、所定のステップ値(たとえば、0.01%、0.1%など任意の値とすることができる。)ごとの確率xについて計算を行うことで、代表値を算出するようにすることができる。
たとえば、代表値として最頻値を採用する場合、事後分布をf(x)として、ヒストグラムh(x)と事後分布f(x)を乗じた値が最大となるxを最頻値CTR(h;α,β)として決定することができる。なお、f(x)は次式で表される。
この場合のCTRの算出処理を図17に示す。広告評価算出部233はまず、確率密度を示す変数rを0に設定し(S481)、最頻値CTR(h;α,β)を0とし(S482)、確率xを0に設定する(S483)。広告評価算出部233は、ヒストグラムh(x)と事後分布f(x)とを乗じた値をtとし(S484)、tがrよりも大きい場合には(S485:YES)、tをrとし(S486)、xを最頻値CTR(h;α,β)とする(S487)。広告評価算出部233は、xにステップ値を加算し(S488)、xが1(所定の上限値としてもよい。)を超えなければ(S489:NO)、ステップS484からの処理を繰り返す。このようにして、連続的なヒストグラム関数hを用いた場合にも、最頻値(の近似値)を求めることができる。
また、代表値として期待値を採用する場合にも、同様にステップ値ごとの確率xiを用いて、次式のようにE3の近似式E3’を用いてxCTRの計算を行う。
すなわち、広告評価算出部233は、ステップ値ごとのxiについてxiとヒストグラムh(xi)と事後分布f(xi)とを乗じた値を算出して合計した合計値を被除数とし、同じくステップ値ごとのxiについてヒストグラムh(xi)と事後分布f(xi)とを乗じた値を算出して合計した合計値を除数として除算を行うことにより、期待値(の近似値)を求めることができる。
== (15) Modification: Continuous histogram ==
In this embodiment, it is assumed that a discrete histogram that counts the frequency of each section is used. However, the present invention is not limited to this. For example, probability density estimation using a technique such as a Parzen window (kernel density estimation) is used. A continuous histogram function h may be created. In this case, the representative value is calculated by calculating the probability x for each predetermined step value (for example, an arbitrary value such as 0.01% or 0.1%). Can do.
For example, when the mode is adopted as the representative value, the posterior distribution is set to f (x), and the maximum value obtained by multiplying the histogram h (x) and the posterior distribution f (x) is set to the mode CTR (h ; Α, β) can be determined. Note that f (x) is expressed by the following equation.
FIG. 17 shows CTR calculation processing in this case. First, the advertisement
Further, even when adopting the expected value as a representative value, likewise using the probability x i for each step value, the calculation of xCTR using an approximate expression of E3 E3 as: '.
That is, the advertisement
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。 Although the present embodiment has been described above, the above embodiment is intended to facilitate understanding of the present invention and is not intended to limit the present invention. The present invention can be changed and improved without departing from the gist thereof, and the present invention includes equivalents thereof.
例えば、本実施形態では、広告配信システムは1台のWebサーバ20から構成されるものとしたが、これに限らず、複数のコンピュータにより構成してもよい。例えばWebページを提供するWebサーバと、Webページを作成するアプリケーションサーバと、各種のデータを管理するデータベースサーバとから構成することもできる。
For example, in this embodiment, the advertisement distribution system is configured by one
また、たとえば、配信する広告を選択するプログラム(マッチングエンジン)の評価を行う場合など、広告自体を評価する広告評価装置に適用することもできる。この場合、広告評価装置は、広告の表示回数を取得する表示回数取得部と、広告のクリック数を取得するクリック数取得部と、xCTR(またはxCTR×入札額)を広告の評価値として算出する広告評価算出部233と、広告の評価値を出力する評価値出力部と、を備えるようにする。広告評価値装置にインプレッションログ記憶部253およびクリックログ記憶部254を備えるようにして、表示回数取得部およびクリック数取得部は、インプレッションログ記憶部253およびクリックログ記憶部254から広告IDに対応するインプレッションログおよびクリックログの数をカウントするようにしてもよいし、他のコンピュータがインプレッションログ記憶部253およびクリックログ記憶部254を備えている場合に、そのコンピュータにアクセスして広告IDに対応するインプレッションログおよびクリックログのそれぞれの数を問い合わせるようにしてもよい。
For example, the present invention can be applied to an advertisement evaluation apparatus that evaluates an advertisement itself, for example, when evaluating a program (matching engine) for selecting an advertisement to be distributed. In this case, the advertisement evaluation device calculates a display number acquisition unit that acquires the number of advertisements displayed, a click number acquisition unit that acquires the number of clicks of the advertisement, and xCTR (or xCTR × bid amount) as the evaluation value of the advertisement. An advertisement
1 Webページ
2 広告
10 ユーザ端末
20 Webサーバ
30 通信ネットワーク
211 HTTP処理部
212 Webページ作成部
213 広告選択部
214 ログ収集部
231 配信候補抽出部
232 ヒストグラム作成部
233 広告評価算出部
234 広告決定部
251 Web情報データベース
252 広告データベース
253 インプレッションログ記憶部
254 クリックログ記憶部
255 ヒストグラム記憶部
DESCRIPTION OF
Claims (6)
評価対象の広告である評価広告を表示した表示回数を取得する表示回数取得部と、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得する行動回数取得部と、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成する確率分布作成部と、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得する行動率取得部と、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出する代表値算出部と、
前記代表値に応じて前記広告の評価値を決定する広告評価部と、
を備えることを特徴とする広告評価装置。 A device for evaluating advertisements,
An impression number acquisition unit for acquiring the number of impressions for which an evaluation advertisement that is an evaluation target is displayed;
An action number acquisition unit for acquiring the number of actions of the viewer in response to the evaluation advertisement;
A probability distribution creating unit that creates a probability distribution of the probability that the viewer takes the action in response to the advertisement based on the number of actions and the number of displays;
For each display advertisement that is an advertisement that has been displayed in the past, an action rate acquisition unit that acquires an action rate that is a rate at which a viewer takes action in response to the display advertisement,
A representative value calculator that corrects the probability distribution according to the frequency of the action rate, and calculates a representative value of the corrected probability distribution;
An advertisement evaluation unit that determines an evaluation value of the advertisement according to the representative value;
An advertisement evaluation apparatus comprising:
前記代表値算出部は、前記確率分布における確率密度に前記頻度を乗じることにより前記確率分布を補正すること、
を特徴とする広告評価装置。 The advertisement evaluation device according to claim 1,
The representative value calculator corrects the probability distribution by multiplying the probability density in the probability distribution by the frequency;
An advertisement evaluation apparatus characterized by.
前記確率分布作成部は、所定のベータ分布Be(a、b)を事前分布とした前記行動回数および前記表示回数の場合における前記確率のベイズ推定による事後分布であるベータ分布Be(行動数+a,表示回数−行動数+b)を作成し、
前記代表値算出部は、
前記確率の区間ごとに前記行動率の前記頻度を算出し、
前記区間のそれぞれについて、当該区間に対応する前記頻度と、次の前記区間に対応する前記頻度との差を算出し、
前記区間のそれぞれについて、正規化不完全ベータ関数に、前記区間内の最大の前記確率、前記行動回数にaを加算した第1パラメータ、および前記表示回数から前記行動回数を引いた値にbを加算した第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を除数とし、前記区間のそれぞれについて前記正規化不完全ベータ関数に、前記最大の確率、前記第1パラメータに1を加算した値および前記第2パラメータを与えた値に前記区間に対応する前記差を乗じた値を被除数とする除算結果と、前記事後分布の期待値とを乗じて前記代表値を算出すること、
を特徴とする広告評価装置。 The advertisement evaluation device according to claim 2,
The probability distribution creation unit includes a beta distribution Be (number of actions + a, number of actions + a, b) that is a posterior distribution by Bayes estimation of the probability in the case of the number of actions and the number of times of display with a predetermined beta distribution Be (a, b) as a prior distribution. Create impressions-actions + b)
The representative value calculation unit
Calculating the frequency of the activity rate for each interval of the probability;
For each of the sections, calculate the difference between the frequency corresponding to the section and the frequency corresponding to the next section;
For each of the sections, the normalized incomplete beta function has the maximum probability in the section, a first parameter obtained by adding a to the number of actions, and b obtained by subtracting the number of actions from the display count. A value obtained by multiplying the added second parameter by the difference corresponding to the interval is used as a divisor, and the normalized incomplete beta function is set to the maximum probability and the first parameter is set to 1 for each of the intervals. The representative value is calculated by multiplying the result obtained by multiplying the value obtained by adding the second parameter and the value given the second parameter by the value corresponding to the interval and the expected value of the posterior distribution. about,
An advertisement evaluation apparatus characterized by.
前記代表値算出部は、
前記確率の区間ごとに前記行動率の前記頻度を算出し、
前記確率分布の最頻値を算出し、
前記最頻値に対応する前記確率分布の確率密度に、前記最頻値に対応する前記頻度を乗じた第1値を算出し、
前記区間内の最大の前記確率である右側確率が前記最頻値よりも小さい前記区間について、前記右側確率に対応する前記確率密度に、前記右側確率に対応する前記頻度を乗じた第2値を算出し、
前記区間内の最小の前記確率である左側確率が前記最頻値よりも大きい前記区間について、前記左側確率に対応する前記確率密度に、前記左側確率に対応する前記頻度を乗じた第3値を算出し、
前記第1値、前記第2値および前記第3値の中の最大値に対応する前記確率を前記代表値として決定すること、
を特徴とする広告評価装置。 The advertisement evaluation device according to claim 1 or 2,
The representative value calculation unit
Calculating the frequency of the activity rate for each interval of the probability;
Calculating the mode of the probability distribution;
Calculating a first value obtained by multiplying the probability density of the probability distribution corresponding to the mode value by the frequency corresponding to the mode value;
A second value obtained by multiplying the probability density corresponding to the right probability by the frequency corresponding to the right probability for the interval in which the right probability that is the maximum probability in the interval is smaller than the mode value. Calculate
A third value obtained by multiplying the probability density corresponding to the left probability by the frequency corresponding to the left probability for the interval in which the left probability that is the minimum probability in the interval is larger than the mode value. Calculate
Determining the probability corresponding to the maximum value among the first value, the second value and the third value as the representative value;
An advertisement evaluation apparatus characterized by.
コンピュータが、
評価対象の広告である評価広告を表示した表示回数を取得するステップと、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、
前記代表値に応じて前記広告の評価値を決定するステップと、
を実行することを特徴とする広告評価方法。 A method for evaluating ads,
Computer
Obtaining impressions for which an evaluation ad, which is an evaluation target, is displayed;
Obtaining the number of times the viewer has acted in response to the evaluation advertisement;
Creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the action count and the display count;
For each display advertisement that is an advertisement that has been displayed in the past, obtaining an action rate that is a rate at which a viewer takes action in response to the display advertisement;
Correcting the probability distribution according to the frequency of the action rate, and calculating a representative value of the corrected probability distribution;
Determining an evaluation value of the advertisement according to the representative value;
The advertisement evaluation method characterized by performing.
コンピュータに、
評価対象の広告である評価広告を表示した表示回数を取得するステップと、
前記評価広告に応じて閲覧者が行動を起こした行動回数を取得するステップと、
前記行動回数および前記表示回数に基づいて、前記閲覧者が前記広告に応じて前記行動を起こす確率の確率分布を作成するステップと、
過去に表示された広告である表示広告ごとに、当該表示広告に応じて閲覧者が行動を起こした割合である行動率を取得するステップと、
前記行動率の頻度に応じて前記確率分布を補正し、前記補正した確率分布の代表値を算出するステップと、
前記代表値に応じて前記広告の評価値を決定するステップと、
を実行させるためのプログラム。 A program for evaluating ads,
On the computer,
Obtaining impressions for which an evaluation ad, which is an evaluation target, is displayed;
Obtaining the number of times the viewer has acted in response to the evaluation advertisement;
Creating a probability distribution of the probability that the viewer will take the action in response to the advertisement, based on the action count and the display count;
For each display advertisement that is an advertisement that has been displayed in the past, obtaining an action rate that is a rate at which a viewer takes action in response to the display advertisement;
Correcting the probability distribution according to the frequency of the action rate, and calculating a representative value of the corrected probability distribution;
Determining an evaluation value of the advertisement according to the representative value;
A program for running
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012024276A JP5425941B2 (en) | 2012-02-07 | 2012-02-07 | Advertisement evaluation apparatus, advertisement evaluation method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012024276A JP5425941B2 (en) | 2012-02-07 | 2012-02-07 | Advertisement evaluation apparatus, advertisement evaluation method and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013161359A true JP2013161359A (en) | 2013-08-19 |
JP5425941B2 JP5425941B2 (en) | 2014-02-26 |
Family
ID=49173533
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012024276A Active JP5425941B2 (en) | 2012-02-07 | 2012-02-07 | Advertisement evaluation apparatus, advertisement evaluation method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5425941B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015148689A (en) * | 2014-02-05 | 2015-08-20 | 日本電信電話株式会社 | Advertising display control method, advertising display control device, and program |
WO2017118439A1 (en) * | 2016-01-07 | 2017-07-13 | 腾讯科技(深圳)有限公司 | Information publishing method, information publishing device and storage medium |
CN110019290A (en) * | 2017-08-31 | 2019-07-16 | 腾讯科技(深圳)有限公司 | Recommended method and device based on statistics priori |
JP2021149258A (en) * | 2020-03-17 | 2021-09-27 | ヤフー株式会社 | Information processing device, information processing method, and information processing program |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7341388B1 (en) | 2022-12-26 | 2023-09-11 | 東洋インキScホールディングス株式会社 | Active energy ray-curable ink composition for metal printing and its laminate |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005537591A (en) * | 2002-08-27 | 2005-12-08 | グーグル・インク | Method and system for providing advertising list variability for distribution on the Internet to maximize advertising distributor revenue |
JP2008547129A (en) * | 2005-06-28 | 2008-12-25 | マイクロソフト コーポレーション | Automatic advertising |
WO2010117889A2 (en) * | 2009-04-10 | 2010-10-14 | Microsoft Corporation | Scalable clustering |
-
2012
- 2012-02-07 JP JP2012024276A patent/JP5425941B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005537591A (en) * | 2002-08-27 | 2005-12-08 | グーグル・インク | Method and system for providing advertising list variability for distribution on the Internet to maximize advertising distributor revenue |
JP2008547129A (en) * | 2005-06-28 | 2008-12-25 | マイクロソフト コーポレーション | Automatic advertising |
WO2010117889A2 (en) * | 2009-04-10 | 2010-10-14 | Microsoft Corporation | Scalable clustering |
Non-Patent Citations (1)
Title |
---|
JPN6013052636; Xuerui Wang: 'Click-Through Rate Estimation for Rare Events in Online Advertising' Online Multimedia Advertising: Techniques and Technologies , 2010, ACM * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015148689A (en) * | 2014-02-05 | 2015-08-20 | 日本電信電話株式会社 | Advertising display control method, advertising display control device, and program |
WO2017118439A1 (en) * | 2016-01-07 | 2017-07-13 | 腾讯科技(深圳)有限公司 | Information publishing method, information publishing device and storage medium |
CN110019290A (en) * | 2017-08-31 | 2019-07-16 | 腾讯科技(深圳)有限公司 | Recommended method and device based on statistics priori |
JP2021149258A (en) * | 2020-03-17 | 2021-09-27 | ヤフー株式会社 | Information processing device, information processing method, and information processing program |
JP7244449B2 (en) | 2020-03-17 | 2023-03-22 | ヤフー株式会社 | Information processing device, information processing method and information processing program |
Also Published As
Publication number | Publication date |
---|---|
JP5425941B2 (en) | 2014-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10529011B2 (en) | Method and system of determining an optimal value of an auction parameter for a digital object | |
JP5899275B2 (en) | System and method for scoring quality of advertisement and content in online system | |
JP5485311B2 (en) | Advertisement evaluation apparatus, advertisement evaluation method and program | |
JP5491555B2 (en) | Advertisement distribution apparatus, advertisement distribution method and program | |
JP5139397B2 (en) | Advertisement delivery apparatus and method | |
JP6408346B2 (en) | Integrated market for advertising and content in online systems | |
US10296942B2 (en) | Advertisement choosing device and advertisement choosing method | |
JP5507607B2 (en) | Content providing apparatus, low rank approximate matrix generating apparatus, content providing method, low rank approximate matrix generating method, and program | |
JP5425941B2 (en) | Advertisement evaluation apparatus, advertisement evaluation method and program | |
US20130066709A1 (en) | Method of and system for determining contextually relevant advertisements to be provided to a web page | |
JP5507622B2 (en) | Advertisement billing amount determination device, advertisement billing amount determination method and program | |
US8700465B1 (en) | Determining online advertisement statistics | |
JP5558539B2 (en) | Search system, search method and program | |
JPWO2009060829A1 (en) | Advertisement presenting method, advertisement presenting system and program | |
EP2477149A1 (en) | System and method for providing advertisement in web sites | |
JP5674721B2 (en) | Advertisement registration apparatus, advertisement registration method and program | |
JP5491556B2 (en) | Advertisement distribution apparatus, advertisement distribution method and program | |
JP5373003B2 (en) | Advertisement processing apparatus and method | |
JP5520913B2 (en) | Advertisement output device, advertisement output method and program | |
KR101614954B1 (en) | Advertisement system and advertisement method for controling exposure frequency and exposure interval of advertisement to manage inventory | |
KR101016701B1 (en) | Method and system for providing service of advertisement | |
JP6362577B2 (en) | Information processing apparatus and display article selection system | |
JP6127228B1 (en) | Information processing system, information processing method, and information processing program | |
JP2016076176A (en) | Advertisement distribution server and advertisement distribution program | |
JP5976965B2 (en) | Advertisement determination device, advertisement determination method and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131127 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5425941 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |