JP7160757B2 - 判定装置、判定方法及び判定プログラム - Google Patents

Description

本発明は、判定装置、判定方法及び判定プログラムに関する。

近年、利用者の感情を推定する技術が知られている。このような技術の一例として、コンテンツの状況や、利用者の感情を含む状況等に基づいて、利用者の感情を推定する技術が知られている。

特開２０１６－１８６７４１号公報

しかしながら、上述した従来技術では、利用者の状況と、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握できるとは限らない。

例えば、上述した従来技術では、利用者の感情を推定し、利用者の共感が得られると推測する画像や音声メッセージ等の応答を出力しているに過ぎない。したがって、上述した従来技術では、利用者の状況と、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握できるとは限らない。

本願は、上記に鑑みてなされたものであって、利用者の状況と、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することを目的とする。

本願に係る判定装置は、利用者の状況を示す状況情報を取得する取得部と、前記取得部により取得された状況情報が示す状況に基づいて、提供候補となるコンテンツを前記利用者に提供した場合における前記利用者の感情が所定の条件を満たすか否かを判定する判定部とを有することを特徴とする。

実施形態の一態様によれば、利用者の状況と、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することができるという効果を奏する。

図１は、実施形態に係る判定処理の一例を示す図である。 図２は、実施形態に係る判定システムの構成例を示す図である。 図３は、実施形態に係る判定装置の構成例を示す図である。 図４は、実施形態に係る提供候補コンテンツ記憶部の一例を示す図である。 図５は、実施形態に係る判定処理の手順の一例を示すフローチャートである。 図６は、判定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。

以下に本願に係る判定装置、判定方法及び判定プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る判定装置、判定方法及び判定プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。

〔１．実施形態〕
図１を用いて、本実施形態の判定装置等により実現される判定処理を説明する。図１は、実施形態に係る判定処理の一例を示す図である。図１に示す例において、判定システム１は、判定装置１００及び端末装置１０を有する。判定装置１００と、端末装置１０とは、図示しない所定の通信網を介して、有線又は無線により通信可能に接続される。なお、図１に示す判定システム１は、複数台の判定装置１００や、複数台の端末装置１０が含まれてもよい。

図１に示す判定装置１００は、端末装置１０に各種コンテンツを提供（配信）するサーバ装置である。なお、判定装置１００が端末装置１０に提供するコンテンツは、例えば、ポータルサイト、ニュースサイト、オークションサイト、天気予報サイト、ショッピング（電子商取引）サイト、ファイナンス（株価）サイト、路線検索サイト、地図提供サイト、旅行サイト、飲食店紹介サイト、ＳＮＳ（Social Networking Service）サイト、ウェブブログなどに関するコンテンツであってもよい。また、判定装置１００が端末装置１０に提供するコンテンツは、例えば、端末装置１０にインストールされた各種アプリケーション（以下、「アプリ」と記載する場合がある）に関するコンテンツであってもよい。具体的には、ポータルアプリ、ニュースアプリ、オークションサイト、天気予報アプリ、ショッピングアプリ、ファイナンス（株価）アプリ、路線検索アプリ、地図提供アプリ、旅行アプリ、飲食店紹介アプリ、ＳＮＳアプリ、ブログ閲覧アプリ等に関するコンテンツであってもよい。また、判定装置１００が端末装置１０に提供するコンテンツは、広告主から入稿された各種広告に関するコンテンツであってもよい。

また、図１の例において、判定装置１００は、利用者への提供候補となるコンテンツ（以下、「提供候補コンテンツ」と記載する場合がある）に関する情報を提供候補コンテンツ記憶部１２１にて管理する。図１の例において、判定装置１００は、提供候補コンテンツの構成要素であるテキスト情報や画像情報等の情報を提供候補コンテンツ記憶部１２１にて管理する。

図１に示す端末装置１０は、利用者によって利用される情報処理装置である。例えば、端末装置１０は、デスクトップ型ＰＣ（Personal Computer）や、ノート型ＰＣや、タブレット端末や、携帯電話機や、ＰＤＡ（Personal Digital Assistant）等である。なお、図１に示す例において、端末装置１０は、利用者によって利用されるスマートフォンやタブレット等のスマートデバイスである場合を示す。

また、図１の例において、端末装置１０は、利用者に関する利用者情報を判定装置１００に送信する。例えば、図１の例において、端末装置１０は、利用者の行動に関する行動情報（例えば、コンテンツの閲覧履歴、検索履歴、商品の購入履歴、サービス予約等）や、心拍センサ等の種々のセンサにより検知した利用者の生体情報、ＧＰＳ（Global Positioning System）機能等が検知した利用者の位置情報、端末装置１０の撮像部及び集音部（例えば、マイク等）等が検知した利用者の環境情報などを利用者情報として判定装置１００に送信する。

以下、図１を用いて、判定装置１００が行う判定処理について説明する。なお、以下の説明では、端末装置１０を利用する利用者Ｕ１の現在位置が施設Ａである例を示す。

まず、判定装置１００は、端末装置１０からコンテンツの提供要求、並びに、利用者Ｕ１の状況を示す状況情報を取得する（ステップＳ１１）。例えば、図１の例において、判定装置１００は、利用者Ｕ１の状況情報として、利用者Ｕ１の位置情報に基づいて特定される施設Ａに関する施設情報（例えば、施設のカテゴリ）を取得する。

続いて、判定装置１００は、状況情報が示す状況において提供候補コンテンツを提供した場合の利用者の感情を特定（推定）する（ステップＳ１２）。例えば、図１の例において、判定装置１００は、取得した状況情報及び提供候補コンテンツに関する情報（例えば、テキスト情報や、画像情報等）が入力された場合に、状況情報が示す状況における利用者Ｕ１の感情（提供候補コンテンツの提供前の利用者Ｕ１の感情）と、当該状況において提供候補コンテンツを提供した場合の利用者Ｕ１の感情とを出力するように学習が行われたモデルを用いて、利用者Ｕ１の感情を特定する。

なお、図１の例において、判定装置１００は、利用者Ｕ１の感情、並びに、感情の度合いを示すスコアを特定するものとする。ここで、図１の例において、感情の度合いを示すスコアは、「０」から「１００」までの値で示される。例えば、感情「楽しい」のスコアが「０」と特定された場合、利用者が感情「楽しい」を有していないことを示す。また、感情「楽しい」のスコアが「１００」と特定された場合、利用者が感情「楽しい」を有していることを示す。

続いて、判定装置１００は、状況情報が示す状況に基づいて、特定した感情が所定の条件を満たすか否かを判定する（ステップＳ１３）。例えば、図１の例において、判定装置１００は、取得した状況情報が示す状況における利用者Ｕ１の感情と、当該状況において提供候補コンテンツを提供した場合の利用者Ｕ１の感情とに基づいて、提供候補コンテンツが利用者Ｕ１に提供するコンテンツとして適切であるか否かを判定する。

ここで、図１の例において、利用者Ｕ１が位置する施設Ａが感情「楽しい」を惹起させる施設（例えば、テーマパークや、レジャー施設等）であり、ステップＳ１２において、状況情報が示す状況において利用者Ｕ１の肯定的な感情「楽しい（スコア：３０）」が特定され、提供候補コンテンツであるコンテンツ＃１～＃３を提供した場合の利用者Ｕ１の感情がそれぞれ「悲しい（スコア：１０）」、「楽しい（スコア：６０）」、「楽しい（スコア：３０）」と特定されたものとする。この場合、判定装置１００は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより肯定的となるコンテンツ＃２、並びに、利用者Ｕ１の感情を変化させないコンテンツ＃３を、利用者Ｕ１に提供するコンテンツとして適切と判定する。一方、判定装置１００は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情が否定的となるコンテンツ＃１（すなわち、利用者Ｕ１の状況にそぐわないコンテンツ）を、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

また、図１の例において、利用者Ｕ１が位置する施設Ａが感情「悲しい」を惹起させる施設（例えば、葬儀場）であり、ステップＳ１２において、状況情報が示す状況において利用者Ｕ１の否定的な感情「悲しい（スコア：５０）」が特定され、提供候補コンテンツであるコンテンツ＃１～＃３を提供した場合の利用者Ｕ１の感情がそれぞれ「悲しい（スコア：６０）」、「怒り（スコア：２０）」、「悲しい（スコア：５０）」と特定されたものとする。この場合、判定装置１００は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情を変化させないコンテンツ＃３を、利用者Ｕ１に提供するコンテンツとして適切と判定する。一方、判定装置１００は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより否定的となるコンテンツ＃１、並びに、感情「悲しい」を有する利用者Ｕ１に感情「怒り」を惹起させるコンテンツ＃２（すなわち、利用者Ｕ１の状況にそぐわないコンテンツ）を、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

続いて、判定装置１００は、所定の条件を満たす提供候補コンテンツを提供する（ステップＳ１４）。例えば、図１の例において、判定装置１００は、提供候補コンテンツのうち、ステップＳ１３において適切と判定された提供候補コンテンツを端末装置１０に提供する。

なお、図１の例において、判定装置１００は、利用者の感情と、当該感情と因果関係を有する利用者の一連の状況、並びに、利用者に提供したコンテンツに関する情報の組との間の関係性を学習したモデル（例えば、ＭＩＬ（Multiple Instance Learning）の技術を用いて学習したモデル）を用いて、取得した状況情報及び提供候補コンテンツに関する情報に基づき、当該状況情報が示す状況における利用者Ｕ１の感情と、当該状況において提供候補コンテンツを提供した場合の利用者Ｕ１の感情とを特定してもよい。例えば、判定装置１００は、利用者の一連の状況や、コンテンツを提供した後の利用者の一連の状況（例えば、コンテンツ閲覧時に行った一連の操作（クリックやスクロール）等）などといった時系列順の利用者の状況、並びに、利用者に提供したコンテンツに関する情報の組と、その状況の前、その状況、若しくは、その状況後に利用者が有していたと推定される感情との間の関係性を学習したモデルを用いてもよい。なお、このようなモデルは、例えば、利用者の生体情報等から推定された感情と、利用者の一連の状況との間の関係性をＭＩＬの技術を用いて学習することで実現され、状況情報が示す利用者の状況と、提供候補コンテンツに関する情報とが入力された場合に、当該状況の前、当該状況、若しくは、当該状況後等、一連の状況と何かしらの因果関係を有すると推定される感情を出力することとなる。すなわち、このようなモデルは、感情と、利用者の一連の状況及びコンテンツに関する情報の組とを学習データとし、ＭＩＬの技術を用いた学習を行うことで、入力された利用者の状況を示す状況情報の全体若しくは一部と因果関係を有する（何かしらの関連性を有する）感情を示す情報を出力するように学習が行われることとなる。また、判定装置１００は、利用者の生体情報を取得した場合、生体情報及びコンテンツに関する情報の組と、感情との間の関係性を学習したモデルを用いて、取得した生体情報及び提供候補コンテンツに関する情報から利用者の感情を推定してもよい。

また、判定装置１００は、提供されたコンテンツに対する利用者の意見（例えば、カスタマーセンター等への利用者の苦情や要望、感想など）に関する情報に基づいて、利用者Ｕ１の状況情報が示す状況における提供候補コンテンツの提供の可否を判定してもよい。例えば、判定装置１００は、提供されたコンテンツに対する利用者の意見の内容（例えば、メール送信フォームなどで利用者が入力したテキスト情報や、利用者と利用者に対応を行ったオペレータとの電話応答に関する音声情報など）を利用者が利用する端末装置や外部のサーバ装置等から取得する。そして、判定装置１００は、取得したテキスト情報や音声情報を形態素解析等の自然言語処理技術を適宜用いて解析することにより、コンテンツが提供された際の利用者の状況を示す状況情報と、当該コンテンツが利用者に惹起させる感情とを特定し、特定した情報に基づいて、利用者Ｕ１の状況情報が示す状況における提供候補コンテンツの提供の可否を判定する。

ここで、判定装置１００が、提供されたコンテンツに対する利用者の苦情に関する情報を利用者が利用する端末装置から取得し、当該情報から、利用者の状況「混雑」を示す状況情報と、利用者に提供されたコンテンツが利用者に惹起させる感情「恥ずかしい」とを特定したものとする。この場合、判定装置１００は、状況「混雑」を示す利用者Ｕ１の状況情報を取得した際、提供候補コンテンツのうち、感情「恥ずかしい」を惹起させるコンテンツを、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

また、判定装置１００は、コンテンツが利用者に惹起させる感情（以下、「コンテンツ感情」と記載する場合がある）と、当該コンテンツ感情により利用者が感じる不快感（例えば、怒りや嫌悪など）の度合いが所定の閾値以上となる利用者の状況を示す状況情報との組み合わせを特定し、特定した組み合わせに基づいて、利用者Ｕ１の状況情報が示す状況における提供候補コンテンツの提供の可否を判定してもよい。例えば、判定装置１００は、利用者が利用する端末装置が備える心拍センサにより検知した利用者の生体情報や、モーションセンサにより取得した利用者の移動速度、端末装置に対する操作履歴（コンテンツのスクロール速度、選択操作が行われた回数）に基づいて、不快感の度合いを算出する。

ここで、判定装置１００が、コンテンツ感情「楽しい」により、状況「葬儀中」である利用者が感じる不快感「怒り」の度合いが所定の閾値以上であると特定したものとする。この場合、判定装置１００は、状況「葬儀中」を示す利用者Ｕ１の状況情報を取得した際、提供候補コンテンツのうち、感情「楽しい」を惹起させるコンテンツを、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

以上のように、実施形態に係る判定装置１００は、提供候補コンテンツが、状況情報が示す利用者の状況において提供するコンテンツとして適切であるか否かを判定できる。すなわち、実施形態に係る判定装置１００は、利用者の状況と、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することができる。

〔２．判定システムの構成〕
次に、上述した情報処理を実現するための判定システム１について図２を用いて説明する。図２は、実施形態に係る判定システムの構成例を示す図である。図２に示すように、実施形態に係る判定システム１は、判定装置１００と、端末装置１０とを含む。判定装置１００及び端末装置１０は、ネットワークＮを介して有線または無線により相互に通信可能に接続される。なお、ネットワークＮは、ＬＡＮ（Local Area Network）、ＷＡＮ（Wide Area Network）、電話網（携帯電話網、固定電話網等）、地域ＩＰ（Internet Protocol）網、インターネット等の通信ネットワークである。ネットワークＮには、有線ネットワークが含まれていてもよいし、無線ネットワークが含まれていてもよい。また、図２に示す判定システム１には、複数台の判定装置１００や、複数台の端末装置１０が含まれてもよい。

判定装置１００は、端末装置１０に各種コンテンツを提供するサーバ装置である。また、判定装置１００は、提供候補コンテンツに関する情報を提供候補コンテンツ記憶部１２１にて管理する。なお、判定装置１００は、アプリケーションのデータそのものを配信するサーバであってもよい。また、判定装置１００は、端末装置１０に制御情報を配信する配信装置として機能してもよい。ここで、制御情報は、例えば、ＪａｖａＳｃｒｉｐｔ（登録商標）等のスクリプト言語やＣＳＳ（Cascading Style Sheets）等のスタイルシート言語により記述される。なお、判定装置１００から提供されるコンテンツに関するアプリケーションそのものを制御情報とみなしてもよい。判定装置１００の構成は後述する。

端末装置１０は、利用者よって利用される情報処理装置である。端末装置１０は、判定装置１００によって提供されるコンテンツを、ウェブブラウザやアプリケーションにより表示する。また、端末装置１０は、判定装置１００によって提供されるコンテンツの表示処理を実現する制御情報を判定装置１００から受け取った場合には、制御情報に従って表示処理を実現する。また、端末装置１０は、利用者の行動情報や、生体情報、位置情報、環境情報などといった利用者情報を判定装置１００に送信する。

〔３．判定装置の構成〕
次に、図３を用いて、判定装置１００の構成について説明する。図３は、実施形態に係る判定装置の構成例を示す図である。図３に示すように、判定装置１００は、通信部１１０と、記憶部１２０と、制御部１３０とを有する。

（通信部１１０について）
通信部１１０は、例えば、ＮＩＣ（Network Interface Card）等によって実現される。そして、通信部１１０は、ネットワークＮと有線または無線で接続され、端末装置１０等との間で情報の送受信を行う。

（記憶部１２０について）
記憶部１２０は、例えば、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。図３に示すように、記憶部１２０は、提供候補コンテンツ記憶部１２１を有する。

（提供候補コンテンツ記憶部１２１について）
提供候補コンテンツ記憶部１２１は、提供候補コンテンツに関する情報を管理する。ここで、図４を用いて、提供候補コンテンツ記憶部１２１が記憶する情報の一例を説明する。図４は、実施形態に係る提供候補コンテンツ記憶部の一例を示す図である。図４の例では、提供候補コンテンツ記憶部１２１は、「コンテンツＩＤ」、「カテゴリ」、「テキスト情報」、「画像情報」といった項目を有する。

「コンテンツＩＤ」は、提供候補コンテンツを識別するための識別情報を示す。「カテゴリ」は、提供候補コンテンツが属するカテゴリを示す。「テキスト情報」は、提供候補コンテンツのテキスト情報を示す。なお、図４に示す例では、「テキスト情報」に「テキスト情報＃１」といった概念的な情報が格納される例を示したが、実際には、テキスト情報が格納される。「画像情報」は、提供候補コンテンツの画像情報を示す。なお、図４に示す例では、「画像情報」に「画像情報＃１」といった概念的な情報が格納される例を示したが、実際には、静止画像や動画像等、若しくは、これらの所在を示すＵＲＬ（Uniform Resource Locator）、格納場所を示すファイルパス名などが格納される。

すなわち、図４では、コンテンツＩＤ「コンテンツ＃１」によって識別される提供候補コンテンツがカテゴリ「時事」に属し、テキスト情報として「テキスト情報＃１」、画像情報として「画像情報＃１」を有する例を示す。

（制御部１３０について）
制御部１３０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）等によって、判定装置１００内部の記憶装置に記憶されている各種プログラムがＲＡＭを作業領域として実行されることにより実現される。また、制御部１３０は、コントローラであり、例えば、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路により実現される。実施形態に係る制御部１３０は、図３に示すように、推定部１３１と、取得部１３２と、判定部１３３と、提供部１３４とを有し、以下に説明する情報処理の機能や作用を実現または実行する。

（推定部１３１について）
推定部１３１は、端末装置１０から送信される利用者の行動情報に基づき、利用者の現在の状況を推定する。例えば、推定部１３１は、コンテンツの閲覧履歴、検索履歴、商品の購入履歴、サービス予約等の利用者の行動情報に基づき、利用者の現在の状況を推定する。

例えば、推定部１３１は、行動情報に含まれるテキスト情報を、形態素解析等の自然言語処理技術を適宜用いて解析することにより、利用者の状況を推定してもよい。具体的には、ダイエットに関するコンテンツの閲覧や、低糖質の食品の購入が継続して行われている場合、推定部１３１は、利用者の現在の状況を「ダイエット中」と推定する。また、例えば、特定の地域に関する検索履歴や、当該地域を訪問先とする交通手段の予約等が行われている場合、推定部１３１は、利用者の現在の状況を「旅行前」と推定する。

また、推定部１３１は、利用者の現在位置に基づいて、利用者の状況を推定してもよい。例えば、図１の例において、推定部１３１は、端末装置１０が有するＧＰＳ機能等が検知した利用者Ｕ１の現在位置に基づいて、利用者が施設Ａに位置すると推定する。

なお、推定部１３１は、利用者の現在位置に対応する公共交通手段に関する情報に基づいて、利用者の周囲の状況（例えば、混雑状況）を推定してもよい。また、推定部１３１は、利用者の現在位置に対応するエリアにおいて発生した災害に関する情報や事故に関する情報に基づいて、利用者に対して発生した事象を推定してもよい。

また、推定部１３１は、利用者の行動情報に基づき、利用者に対して発生した事象の程度（言い換えると、事象が利用者に対して及ぼす影響の度合い）を推定してもよい。例えば、利用者の行動情報に基づき、利用者に対して発生した事象「葬儀」が推定され、利用者の検索履歴に「親 葬儀」が含まれる場合、推定部１３１は、検索履歴に「親戚 葬儀」が含まれる場合よりも、事象「葬儀」が利用者に及ぼす影響が高いと推定する。

（取得部１３２について）
取得部１３２は、利用者の状況を示す状況情報を取得する。例えば、図１の例において、取得部１３２は、端末装置１０から利用者Ｕ１の状況情報を取得する。

また、取得部１３２は、状況情報として、利用者の周囲の状態を取得してもよい。例えば、取得部１３２は、端末装置１０が有する撮像部及び集音部等が検知した利用者の環境情報等に基づく利用者の周囲の状態を、状況情報として取得する。例えば、取得部１３２は、端末装置１０が有する集音部により検知された音声の大きさが所定の条件を満たす場合、利用者の周囲の状態「混雑」を取得する。

また、取得部１３２は、状況情報として、利用者が位置する施設に関する施設情報を取得してもよい。例えば、図１の例において、取得部１３２は、利用者の位置情報に対応する施設Ａに関する施設情報を取得する。例えば、取得部１３２は、施設情報として、施設のカテゴリ（例えば、公共交通施設、レジャー施設、医療施設、式場等）、混雑状況等を取得する。

また、取得部１３２は、状況情報として、利用者に対して発生した事象に関する事象情報を取得してもよい。例えば、取得部１３２は、利用者が拠点とする地域において発生した、地震や津波、火災等の自然的な事象、並びに、交通事故や傷害事件、テロ事件等の人為的な事象に関する事象情報（例えば、事象を示す情報や、事象の程度等）を取得する。また、例えば、取得部１３２は、利用者が位置する施設に関する施設情報に基づく事象情報を取得してもよい。例えば、利用者が位置する施設が葬儀場である場合、取得部１３２は、利用者に対して発生した事象「葬儀」に関する事象情報を取得する。

なお、取得部１３２は、推定部１３１が利用者の行動情報から推定した情報を、事象情報として取得してもよい。

また、取得部１３２は、利用者の行動に関する行動情報に基づいて推定された利用者の状況を示す状況情報を取得してもよい。例えば、取得部１３２は、推定部１３１が利用者の行動情報に基づいて推定した利用者の状況を示す状況情報を取得する。

また、取得部１３２は、利用者の商品の購入履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得してもよい。例えば、取得部１３２は、推定部１３１が利用者の商品の購入履歴に基づいて推定した利用者の状況を示す状況情報を取得する。

また、取得部１３２は、利用者のコンテンツの閲覧履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得してもよい。例えば、取得部１３２は、推定部１３１が利用者のコンテンツの閲覧履歴に基づいて推定した利用者の状況を示す状況情報を取得する。

また、取得部１３２は、利用者の検索履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得してもよい。例えば、取得部１３２は、推定部１３１が利用者の検索履歴に基づいて推定した利用者の状況を示す状況情報を取得する。

また、取得部１３２は、利用者の現在位置に基づいて推定された利用者の状況を示す状況情報を取得してもよい。例えば、取得部１３２は、推定部１３１が利用者の現在位置に基づいて推定した利用者の状況を示す状況情報を取得する。

（判定部１３３について）
判定部１３３は、取得部１３２により取得された状況情報が示す状況に基づいて、提供候補となるコンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定する。例えば、判定部１３３は、取得部１３２により取得された状況情報及び提供候補コンテンツに関する情報が入力された場合に、状況情報が示す状況における利用者の感情（提供候補コンテンツの提供前の利用者Ｕ１の感情）と、当該状況において提供候補コンテンツを提供した場合の利用者の感情とを出力するように学習が行われたモデルを用いて、提供候補コンテンツ記憶部１２１に格納された提供候補となるコンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定する。

例えば、図１の例において、判定部１３３は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情を変化させないコンテンツを、利用者Ｕ１に提供するコンテンツとして適切と判定する。

また、判定部１３３は、コンテンツを提供した場合の利用者の感情が、状況情報が示す状況に対応する条件を満たすか否かを判定してもよい。例えば、図１の例において、利用者Ｕ１が位置する施設Ａが感情「楽しい」を惹起させる施設であり、状況情報が示す状況において利用者Ｕ１の肯定的な感情「楽しい」が特定された場合、判定部１３３は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより肯定的となるコンテンツを、利用者Ｕ１に提供するコンテンツとして適切と判定する。

なお、状況情報が示す状況が、利用者の周囲の状態「混雑」を示すものである場合、判定部１３３は、提供候補コンテンツのうち、利用者に感情「恥ずかしい」や、「気まずい」を惹起させるコンテンツ（例えば、画像における肌の露出が所定の条件を満たすコンテンツ）を、利用者に提供するコンテンツとして不適切と判定してもよい。

また、判定部１３３は、コンテンツを提供した場合の利用者の感情が、事象の程度に応じた条件を満たすか否かを判定してもよい。例えば、判定部１３３は、利用者に対して発生した事象の程度に応じて決定される重みを考慮して、提供候補コンテンツが利用者に提供するコンテンツとして適切であるか否か判定する。例えば、図１の例において、災害や事故、葬儀などといった利用者に否定的な感情を惹起させる事象が発生した場合、判定部１３３は、否定的な感情を惹起させる提供候補コンテンツから特定した当該感情の度合いを示すスコアに対して当該事象の程度に応じた値を乗算し、当該提供候補コンテンツが利用者Ｕ１に提供するコンテンツとして適切であるか否かを判定する。

また、判定部１３３は、取得部１３２により取得された状況情報が示す状況と、コンテンツの内容とに基づいて、当該コンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定してもよい。例えば、判定部１３３は、提供候補コンテンツのうち、状況情報が示す状況にそぐわない内容を含むコンテンツを、利用者に提供するコンテンツとして不適切と判定する。例えば、図１の例において、判定部１３３は、利用者Ｕ１が位置する施設Ａが感情「悲しい」を惹起させる施設である場合、利用者Ｕ１に感情「怒り」を惹起させるコンテンツを、利用者Ｕ１に提供するコンテンツとして不適切と判定する。例えば、判定部１３３は、状況情報が示す状況が「葬儀」である場合、通常の状態（例えば、感情の起伏が発生していない状態）の利用者に提供した場合に感情「明るい」や「楽しい」を惹起させるコンテンツを、当該利用者に提供するコンテンツとして不適切と判定する。

また、判定部１３３は、利用者に提供される提供コンテンツと、提供候補となるコンテンツとを提供した場合の利用者の感情が所定の条件を満たすか否かを判定してもよい。例えば、判定部１３３は、提供候補コンテンツのうち、提供コンテンツの内容にそぐわないコンテンツを、利用者に提供するコンテンツとして不適切と判定する。例えば、判定部１３３は、端末装置１０において、提供コンテンツと共に表示された場合や、提供コンテンツの一部領域に表示された場合、提供コンテンツから遷移して表示された場合等において、利用者の感情「怒り」を惹起させる提供候補コンテンツを、利用者に提供するコンテンツとして不適切と判定する。

また、判定部１３３は、コンテンツを提供した場合の利用者の感情が所定の条件を満たすか否かを、利用者の属性に応じて判定してもよい。例えば、判定部１３３は、利用者のデモグラフィック属性やサイコグラフィック属性、利用者の嗜好等に応じて決定される重みを考慮して、提供候補コンテンツが利用者に提供するコンテンツとして適切であるか否か判定する。例えば、図１の例において、判定部１３３は、提供候補コンテンツに利用者Ｕ１の嗜好に関する情報が含まれる場合、当該提供コンテンツから特定した感情の度合いを示すスコアに対し利用者Ｕ１の当該嗜好の度合いに応じた値を乗算し、当該提供候補コンテンツが利用者Ｕ１に提供するコンテンツとして適切であるか否かを判定する。

また、判定部１３３は、コンテンツを提供した場合の利用者の感情が否定的となるか否かを判定してもよい。例えば、図１の例において、利用者Ｕ１が位置する施設Ａが肯定的な感情を惹起させる施設である場合、判定部１３３は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情が否定的となるコンテンツ＃１を、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

また、判定部１３３は、状況における利用者の感情よりも、コンテンツを提供した場合の利用者の感情が否定的となるか否かを判定してもよい。例えば、図１の例において、状況情報が示す状況において利用者Ｕ１の否定的な感情「悲しい（スコア：５０）」が特定された場合、判定部１３３は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより否定的となるコンテンツ＃１を、利用者Ｕ１に提供するコンテンツとして不適切と判定する。

（提供部１３４について）
提供部１３４は、コンテンツのうち、判定部１３３による判定結果が所定の条件を満たすコンテンツを利用者に提供する。例えば、図１の例において、提供部１３４は、提供候補コンテンツのうち、判定部１３３に適切と判定されたコンテンツを端末装置１０に提供する。

また、提供部１３４は、判定部１３３により、コンテンツを提供した場合の利用者の感情が否定的となると判定された場合、利用者に対しコンテンツを提供せず、コンテンツを提供した場合の利用者の感情が否定的とならないと判定された場合、利用者に対しコンテンツを提供してもよい。例えば、図１の例において、利用者Ｕ１が位置する施設Ａが肯定的な感情「楽しい」を惹起させる施設である場合、提供部１３４は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情が否定的となるコンテンツ＃１を提供しない。そして、提供部１３４は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより肯定的となるコンテンツ＃２、並びに、利用者Ｕ１の感情を変化させないコンテンツ＃３を提供する。

また、提供部１３４は、判定部１３３により、状況における利用者の感情よりもコンテンツを提供した場合の利用者の感情が否定的となる判定された場合、利用者に対しコンテンツを提供せず、状況における利用者の感情よりもコンテンツを提供した場合の利用者の感情が否定的とならないと判定された場合、利用者に対しコンテンツを提供してもよい。例えば、図１の例において、利用者Ｕ１が位置する施設Ａが否定的な感情「悲しい」を惹起させる施設である場合、提供部１３４は、提供候補コンテンツのうち、提供した場合に利用者Ｕ１の感情がより否定的となるコンテンツ＃１を提供しない。そして、提供部１３４は、提供候補コンテンツのうち、利用者Ｕ１の感情を変化させないコンテンツ＃３を提供する。

〔４．判定処理のフロー〕
ここで、図５を用いて、実施形態に係る判定装置１００の判定処理の手順について説明する。図５は、実施形態に係る判定処理の手順の一例を示すフローチャートである。

図５に示すように、判定装置１００は、利用者の状況を示す状況情報を取得する（ステップＳ１０１）。続いて、判定装置１００は、状況情報が示す状況において、提供候補となるコンテンツを提供した場合の利用者の感情を特定する（ステップＳ１０２）。例えば、図１の例において、判定装置１００は、状況情報及び提供候補コンテンツに関する情報が入力された場合に、状況情報が示す状況における利用者Ｕ１の感情と、当該状況において提供候補コンテンツを提供した場合の利用者Ｕ１の感情とを出力するように学習が行われたモデルを用いて、利用者Ｕ１の感情を特定する。

続いて、判定装置１００は、提供候補となるコンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定する（ステップＳ１０３）。ここで、提供候補となるコンテンツが所定の条件を満たさないと判定された場合（ステップＳ１０３；Ｎｏ）、判定装置１００は、当該コンテンツを利用者に提供せずに処理を終了する。

一方、提供候補となるコンテンツが所定の条件を満たすと判定された場合（ステップＳ１０３；Ｙｅｓ）、判定装置１００は、当該コンテンツを利用者に提供し（ステップＳ１０４）、処理を終了する。

〔５．変形例〕
上述の実施形態は一例を示したものであり、種々の変更及び応用が可能である。

〔５－１．提供候補コンテンツについて〕
上述の実施形態において、提供候補コンテンツが時事や広告等のカテゴリに属する情報である例を示したが、提供候補コンテンツはこのような情報に限定されず、例えば、メールアプリやタスク管理アプリ等の各種アプリケーションにより利用者に提供（通知）される情報であってもよい。例えば、判定部１３３は、状況情報が利用者の疲労状態を示すものである場合、各種アプリ等によって提供される情報のうち、利用者の疲労状態を悪化させる情報（例えば、利用者の職務に関する情報等）を、利用者に提供する情報として不適切と判定する。

〔５－２．提供候補コンテンツの判定について〕
上述の実施形態における判定部１３３の提供候補コンテンツの判定はあくまで一例であり、利用者の周囲の状態や利用者の感情等といった利用者の状態に対して、提供候補コンテンツがふさわしいか否か、ＴＰＯ（Time Place Occasion）を担保するコンテンツであるかを判定するのであれば、任意の状態で任意のコンテンツを提供するか否かを判定してよい。

〔５－３．提供候補コンテンツの提供について〕
上述の実施形態において、提供候補コンテンツのうち、利用者に提供するコンテンツとして不適切と判定部１３３が判定したコンテンツを提供部１３４が提供しない例を示したが、提供部１３４の機能はこのような構成に限定されない。例えば、提供部１３４は、提供候補コンテンツのうち、所定のカテゴリに属するコンテンツを、判定部１３３の判定結果によらず提供してもよい。例えば、提供部１３４は、緊急に入稿されたニュース、地震速報、避難勧告、遅延情報、天気情報等の時事に関するカテゴリに属する判定部１３３の判定結果によらず提供する。なお、どのような提供候補コンテンツを判定部１３３の判定結果によらず提供可能とするかについては、任意の設定が可能であり、提供候補コンテンツの提供主によって設定されたものであってもよい。

〔６．効果〕
上述してきたように、実施形態に係る判定装置１００は、推定部１３１と、取得部１３２と、判定部１３３と、提供部１３４を有する。推定部１３１は、利用者の行動情報に基づき、利用者の現在の状況を推定する。取得部１３２は、利用者の状況を示す状況情報を取得する。判定部１３３は、取得部１３２により取得された状況情報が示す状況に基づいて、提供候補となるコンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定する。また、判定部１３３は、コンテンツを提供した場合の利用者の感情が、状況情報が示す状況に対応する条件を満たすか否かを判定する。提供部１３４は、コンテンツのうち、判定部１３３による判定結果が所定の条件を満たすコンテンツを利用者に提供する。

これにより、実施形態に係る判定装置１００は、利用者の状況に基づいてコンテンツの提供可否を判定するため、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することができる。

また、実施形態に係る判定装置１００において、例えば、取得部１３２は、状況情報として、利用者の周囲の状態を取得する。また、取得部１３２は、状況情報として、利用者が位置する施設に関する施設情報を取得する。また、取得部１３２は、状況情報として、利用者に対して発生した事象に関する事象情報を取得する。また、取得部１３２は、利用者の行動に関する行動情報に基づいて推定された利用者の状況を示す状況情報を取得する。また、取得部１３２は、利用者の商品の購入履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得する。また、取得部１３２は、利用者のコンテンツの閲覧履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得する。また、取得部１３２は、利用者の検索履歴を含む行動情報に基づいて推定された利用者の状況を示す状況情報を取得する。また、取得部１３２は、利用者の現在位置に基づいて推定された利用者の状況を示す状況情報を取得する。

これにより、実施形態に係る判定装置１００は、各種の情報を状況情報として取得し、コンテンツの提供可否を判定するため、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することができる。

また、実施形態に係る判定装置１００において、例えば、判定部１３３は、コンテンツを提供した場合の利用者の感情が、事象の程度に応じた条件を満たすか否かを判定する。また、判定部１３３は、取得部１３２により取得された状況情報が示す状況と、コンテンツの内容とに基づいて、当該コンテンツを利用者に提供した場合における利用者の感情が所定の条件を満たすか否かを判定する。また、判定部１３３は、利用者に提供される提供コンテンツと、提供候補となるコンテンツとを提供した場合の利用者の感情が所定の条件を満たすか否かを判定する。また、判定部１３３は、コンテンツを提供した場合の利用者の感情が所定の条件を満たすか否かを、利用者の属性に応じて判定する。また、判定部１３３は、コンテンツを提供した場合の利用者の感情が否定的となるか否かを判定する。また、判定部１３３は、状況における利用者の感情よりも、コンテンツを提供した場合の利用者の感情が否定的となるか否かを判定する。

これにより、実施形態に係る判定装置１００は、利用者や状況に応じた条件に基づきコンテンツの提供可否を判定できるため、利用者にコンテンツを提供した場合の利用者の感情との適合性を把握することができる。

また、実施形態に係る判定装置１００において、例えば、提供部１３４は、判定部１３３により、コンテンツを提供した場合の利用者の感情が否定的となると判定された場合、利用者に対しコンテンツを提供せず、コンテンツを提供した場合の利用者の感情が否定的とならないと判定された場合、利用者に対しコンテンツを提供する。また、提供部１３４は、判定部１３３により、状況における利用者の感情よりもコンテンツを提供した場合の利用者の感情が否定的となる判定された場合、利用者に対しコンテンツを提供せず、状況における利用者の感情よりもコンテンツを提供した場合の利用者の感情が否定的とならないと判定された場合、利用者に対しコンテンツを提供する。

これにより、実施形態に係る判定装置１００は、利用者の状況に応じたコンテンツを提供できるため、利用者に対する適切なコンテンツの提供を実現することができる。

〔７．ハードウェア構成〕
また、上述してきた各実施形態に係る判定装置は、例えば、図６に示すような構成のコンピュータ１０００によって実現される。以下、判定装置１００を例に挙げて説明する。図６は、判定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＯＭ１２００、ＲＡＭ１３００、ＨＤＤ１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。

ＣＰＵ１１００は、ＲＯＭ１２００又はＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１２００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。

ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を記憶する。通信インターフェイス１５００は、通信網５００（実施形態のネットワークＮに対応する）を介して他の機器からデータを受信してＣＰＵ１１００へ送り、また、通信網５００を介してＣＰＵ１１００が生成したデータを他の機器へ送信する。

ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、入出力インターフェイス１６００を介して生成したデータを出力装置へ出力する。

メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラム又はデータを読み取り、ＲＡＭ１３００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１３００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital Versatile Disc）、ＰＤ（Phase change rewritable Disk）等の光学記録媒体、ＭＯ（Magneto-Optical disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。

例えば、コンピュータ１０００が判定装置１００として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１３００上にロードされたプログラムを実行することにより、制御部１３０の機能を実現する。また、ＨＤＤ１４００には、判定装置１００の記憶装置内の各データが格納される。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを記録媒体１８００から読み取って実行するが、他の例として、他の装置から所定の通信網を介してこれらのプログラムを取得してもよい。

〔８．その他〕
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。

また、上述した判定装置１００は、機能によっては外部のプラットフォーム等をＡＰＩ（Application Programming Interface）やネットワークコンピューティングなどで呼び出して実現するなど、構成は柔軟に変更できる。

また、特許請求の範囲に記載した「部」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。

１０ 端末装置
１００ 判定装置
１１０ 通信部
１２０ 記憶部
１２１ 提供候補コンテンツ記憶部
１３０ 制御部
１３１ 推定部
１３２ 取得部
１３３ 判定部
１３４ 提供部

Claims (21)

1. 利用者の状況を示す状況情報を取得する取得部と、
   前記取得部により取得された状況情報が示す状況に基づいて、当該状況において提供候補となるコンテンツを前記利用者に提供した場合における前記利用者の感情を特定し、特定した感情が所定の条件を満たすか否かを判定する判定部と
   を有することを特徴とする判定装置。
2. 前記コンテンツのうち、前記判定部による判定結果が前記所定の条件を満たすコンテンツを前記利用者に提供する第１提供部
   をさらに有することを特徴とする請求項１に記載の判定装置。
3. 前記判定部は、
   前記コンテンツを提供した場合の前記利用者の感情が、前記状況情報が示す状況に対応する条件を満たすか否かを判定する
   ことを特徴とする請求項１または２に記載の判定装置。
4. 前記取得部は、
   前記状況情報として、前記利用者の周囲の状態を取得する
   ことを特徴とする請求項１から３のうちいずれか１つに記載の判定装置。
5. 前記取得部は、
   前記状況情報として、前記利用者が位置する施設に関する施設情報を取得する
   ことを特徴とする請求項１から４のうちいずれか１つに記載の判定装置。
6. 前記取得部は、
   前記状況情報として、前記利用者に対して発生した事象に関する事象情報を取得する
   ことを特徴とする請求項１から５のうちいずれか１つに記載の判定装置。
7. 前記判定部は、
   前記コンテンツを提供した場合の前記利用者の感情が、前記事象の程度に応じた条件を満たすか否かを判定する
   ことを特徴とする請求項６に記載の判定装置。
8. 前記取得部は、
   前記利用者の行動に関する行動情報に基づいて推定された前記利用者の状況を示す状況情報を取得する
   ことを特徴とする請求項１から７のうちいずれか１つに記載の判定装置。
9. 前記取得部は、
   前記利用者の商品の購入履歴を含む前記行動情報に基づいて推定された前記利用者の状況を示す状況情報を取得する
   ことを特徴とする請求項８に記載の判定装置。
10. 前記取得部は、
    前記利用者のコンテンツの閲覧履歴を含む前記行動情報に基づいて推定された前記利用者の状況を示す状況情報を取得する
    ことを特徴とする請求項８または９に記載の判定装置。
11. 前記取得部は、
    前記利用者の検索履歴を含む前記行動情報に基づいて推定された前記利用者の状況を示す状況情報を取得する
    ことを特徴とする請求項８から１０のうちいずれか１つに記載の判定装置。
12. 前記取得部は、
    前記利用者の現在位置に基づいて推定された前記利用者の状況を示す状況情報を取得する
    ことを特徴とする請求項１から１１のうちいずれか１つに記載の判定装置。
13. 前記判定部は、
    前記取得部により取得された状況情報が示す状況と、前記コンテンツの内容とに基づいて、当該コンテンツを前記利用者に提供した場合における前記利用者の感情が前記所定の条件を満たすか否かを判定する
    ことを特徴とする請求項１から１２のうちいずれか１つに記載の判定装置。
14. 前記判定部は、
    前記利用者に提供される提供コンテンツと、提供候補となる前記コンテンツとを提供した場合の前記利用者の感情が前記所定の条件を満たすか否かを判定する
    ことを特徴とする請求項１から１３のうちいずれか１つに記載の判定装置。
15. 前記判定部は、
    前記コンテンツを提供した場合の前記利用者の感情が前記所定の条件を満たすか否かを、前記利用者の属性に応じて判定する
    ことを特徴とする請求項１から１４のうちいずれか１つに記載の判定装置。
16. 前記判定部は、
    前記コンテンツを提供した場合の前記利用者の感情が否定的となるか否かを判定する
    ことを特徴とする請求項１から１５のうちいずれか１つに記載の判定装置。
17. 前記判定部により、前記コンテンツを提供した場合の前記利用者の感情が否定的となると判定された場合、前記利用者に対し前記コンテンツを提供せず、前記コンテンツを提供した場合の前記利用者の感情が否定的とならないと判定された場合、前記利用者に対し前記コンテンツを提供する第２提供部
    をさらに有することを特徴とする請求項１６に記載の判定装置。
18. 前記判定部は、
    前記状況における前記利用者の感情よりも、前記コンテンツを提供した場合の前記利用者の感情が否定的となるか否かを判定する
    ことを特徴とする請求項１から１５のうちいずれか１つに記載の判定装置。
19. 前記判定部により、前記状況における前記利用者の感情よりも前記コンテンツを提供した場合の前記利用者の感情が否定的となる判定された場合、前記利用者に対し前記コンテンツを提供せず、前記状況における前記利用者の感情よりも前記コンテンツを提供した場合の前記利用者の感情が否定的とならないと判定された場合、前記利用者に対し前記コンテンツを提供する第３提供部
    をさらに有することを特徴とする請求項１８に記載の判定装置。
20. 判定装置が実行する判定方法であって、
    利用者の状況を示す状況情報を取得する取得工程と、
    前記取得工程により取得された状況情報が示す状況に基づいて、当該状況において提供候補となるコンテンツを前記利用者に提供した場合における前記利用者の感情を特定し、特定した感情が所定の条件を満たすか否かを判定する判定工程と
    を含むことを特徴とする判定方法。
21. 利用者の状況を示す状況情報を取得する取得手順と、
    前記取得手順により取得された状況情報が示す状況に基づいて、当該状況において提供候補となるコンテンツを前記利用者に提供した場合における前記利用者の感情を特定し、特定した感情が所定の条件を満たすか否かを判定する判定手順と
    をコンピュータに実行させるための判定プログラム。

Images