JP7438191B2

JP7438191B2 - 情報処理装置

Info

Publication number: JP7438191B2
Application number: JP2021508154A
Authority: JP
Inventors: 直樹山本; 桂一落合; 尚志濱谷
Original assignee: NTT Docomo Inc
Current assignee: NTT Docomo Inc
Priority date: 2019-03-22
Filing date: 2020-01-30
Publication date: 2024-02-26
Anticipated expiration: 2040-01-30
Also published as: US20220148729A1; JPWO2020195147A1; WO2020195147A1

Description

本発明は、学習モデルを用いてユーザの状態を判定する情報処理装置に関する。

スマートフォンなどの操作ログに基づいてユーザのストレス状態を推定する技術が知られている。

Cognitive Rhythms: Unobtrusiveand Continuous Sensing of Alertness Using a Mobile PhoneSaeed Abdullah, Elizabeth Murnane, MarkMatthews, Matthew Kay, Julie Kientz, Geri Gay, Tanzeem Choudhury, Proceedingsof the 2016 ACM International Joint Conference on Pervasive and UbiquitousComputing. ACM, 2016.［平成30年2月6日検索］

推定結果と合わせて推定根拠を示すことがユーザに望まれているが、上記特許文献１においては、何を根拠にユーザのストレス状態が推定されたのか不明である。

そこで、本発明は、上述の課題を解決するために、推定モデルを用いた推定結果の根拠を適格に提示することのできる情報処理装置を提供することを目的とする。

本発明の情報処理装置は、入力データを記憶するログ情報記憶部と、前記入力データに基づいて、出力状態を推定するための第１推定モデル、および前記出力状態が所定の状態である場合において、さらに詳細な状態を推定するための第２状態推定モデル、を記憶するモデル記憶部と、前記第１推定モデルおよび第２状態推定モデルを用いて、入力データに対する出力状態を推定する推定処理部と、前記第１推定モデルの推定結果に対する推定根拠を、前記入力データを用いて説明するための説明モデルを記憶する説明モデル記憶部と、前記説明モデルに基づいて第１推定モデルの推定結果の推定根拠を推定する説明推定部と、を備える。

この発明によれば、推定モデルを用いた出力状態を提示するとともに、その推定結果の根拠を適格に提示することができる。

本発明によれば、推定モデルを用いた出力状態を提示するとともに、その推定結果の根拠を適格に提示することができる。

本実施形態のモデル推定装置である情報処理装置１００の機能構成を示すブロック図である。状態推定モデル１０４および説明推定モデル１０４ｂを用いた推定処理を示す模式図である。本実施形態の情報処理装置１００の状態推定処理および根拠推定処理を示すフローチャートである。処理Ｓ１０２の推定根拠処理の詳細処理を示す。ＳＨＡＰｖａｌｕｅを模式的に示した図である。モデル構築装置２００の機能構成を示すブロック図である。各状態推定モデルを構築するための処理を示すフローチャートである。各状態推定モデルの生成過程を示す模式図である。各状態推定モデルの生成過程の別の例を示す模式図である。本開示の一実施の形態に係る情報処理装置１００のハードウェア構成の一例を示す図である。

添付図面を参照しながら本発明の実施形態を説明する。可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。

図１は、本実施形態のモデル推定装置である情報処理装置１００の機能構成を示すブロック図である。図１に示されるとおり、この情報処理装置１００は、ログ情報取得部１０１、状態推定部１０２（推定処理部）、説明推定部１０３（説明推定部）、モデル記憶部１０４（モデル記憶部、説明モデル記憶部）、およびログ情報記憶部１０５を含んで構成されている。以下、図に基づいて説明する。この情報処理装置１００は、ネットワーク上には位置されているサーバでもよいし、ユーザが直接操作可能な通信端末であってもよい。

ログ情報取得部１０１は、ログ情報ＤＢ１０５ａからログ情報を取得し、これを特徴量に変換する部分である。

状態推定部１０２は、モデル記憶部１０４に記憶されている状態推定モデルと、ログ情報記憶部１０５に記憶されているログ情報とを用いて、ユーザの状態推定を行う部分である。

例えば、ログ情報として、ユーザが保持するスマートフォンなどの通信端末の操作履歴、移動履歴、およびアクセス履歴などの少なくとも一つが考えられる。状態推定部１０２は、このログ情報を、特徴量として、または所定の特徴量形式に変換して、状態推定モデルに入力することで、ユーザの注意力またはストレスなどの状態を推定することができる。

また、ユーザの状態を推定することに限定するものではなく、入力に対して学習モデルを用いて推定する装置であればよい。

説明推定部１０３は、ログ情報記憶部に記憶されているログ情報と、モデル記憶部１０４の説明推定モデル１０４ｂとを用いて、状態推定部１０２が推定したユーザの状態の根拠を推定する部分である。説明推定部１０３は、ログ情報取得部１０１が入力したログ情報を入力することで、推定したユーザの状態の根拠を推定することができる。

モデル記憶部１０４は、機械学習により構築された学習モデルを記憶する部分である。モデル記憶部１０４は、学習モデルとして、状態推定モデル１０４ａと説明推定モデル１０４ｂとを記憶する。

状態推定モデル１０４ａは、例えば、ログ情報に基づいた特徴量を説明変数とし、ユーザの状態を目的変数として、学習処理がなされた学習モデルである。この状態推定モデル１０４ａは、複数の推定モデルで構築されている。例えば、状態推定モデル１０４ａは、第１状態推定モデル１０４ａ１、第２状態推定モデル１０４ａ２、および第３状態推定モデル１０４ａ３で構築されている。

状態推定部１０２は、第１状態推定モデル１０４ａ１を用いて、ユーザの第１状態または第２状態を推定する。そして、その推定結果に応じて、状態推定部１０２は、第２状態推定モデル１０４ａ２または第３状態推定モデル１０４ａ３のいずれかかの推定モデルを利用して、ユーザのさらに詳細な状態を推定する。例えば、状態推定部１０２は、ユーザが第１状態である場合には、第２状態推定モデル１０４ａ２を用いて、ユーザの詳細な状態を推定する。

説明推定モデル１０４ｂは、入力データであるログ情報に基づいた特徴量に基づいて推定されたユーザの状態の根拠を示す学習モデルである。説明推定モデル１０４ｂは、ＳＨＡＰ（SHapley Additive exPlanations）またはＬＩＭＥ（LocalInterpretable Model-agnostic Explanations）により構築されている。ＳＨＡＰまたはＬＩＭＥは、それぞれの特徴量が予測に対してどのような影響を与えたか算出するためのモデルである。また、ＳＨＡＰは，複雑な推定モデルの予測結果をよりシンプルなモデルを使って近似することにより解釈性を与える手法である。この説明推定モデル１０４ｂは、状態推定モデル１０４ａの構築時において合わせて構築される学習モデルである。この第１状態推定モデル１０４ａ１と説明推定モデル１０４ｂとは、同じ入力データ（特徴量）および同じ教師信号に基づいて構築されたモデルであり、両者は対の関係である。

ログ情報記憶部１０５は、ログ情報ＤＢ１０５ａを記憶している。このログ情報ＤＢ１０５は、例えばユーザが保持するスマートフォンなどの通信端末の操作履歴等のログ情報を記憶する。このログ情報は、時刻とその操作履歴等とを対応付けた情報である。

提示部１０６は、状態推定部１０２により推定されたユーザの状態（例えばユーザの注意力、ストレスなど）を、説明推定部１０３により推定されたそのユーザの状態の根拠とともに、ユーザまたはその他に提示する部分である。

図２は、第１状態推定モデル１０４ａ１、第２状態推定モデル１０４ａ２、第３状態推定モデル１０４ａ３、および説明推定モデル１０４ｂを用いた推定処理を示す模式図である。図２に示されるように、第１状態推定モデル１０４ａ１と説明推定モデル１０４ｂとは、入力データを入力することにより、それぞれユーザの状態およびその推定根拠を推定する。

図２において、第１状態推定モデル１０４ａ１は、ログ情報に基づいた特徴量に対して、ユーザが第１状態または第２状態のいずれかであるかを推定する。例えば、第１状態推定モデル１０４ａ１は、ユーザの注意力を推定するために用いられるモデルであれば、第１状態がユーザに注意力がある状態、第２状態がユーザに注意力がない状態を推定するためのモデルである。

第２状態推定モデル１０４ａ２は、ユーザの状態が第１状態と推定された場合に、適用される推定モデルである。この第２状態推定モデル１０４ａ２は、第１状態推定モデル１０４ａ１に入力されたログ情報に基づいた特徴量を、改めて入力し、その特徴量に基づいて推定結果を出力する。

第３状態推定モデル１０４ａ３は、ユーザの状態が第２状態と推定された場合に、適用される推定モデルである。この第３状態推定モデル１０４ａ３は、第１状態推定モデル１０４ａ１に入力されたログ情報に基づいた特徴量を、改めて入力し、その特徴量に基づいて推定結果を出力する。

一方、説明推定モデル１０４ｂは、上記と同じ特徴量を入力し、第１状態推定モデル１０４ａ１において推定された結果に影響力のある特徴量を、推定根拠の説明として出力する。例えば、説明推定モデル１０４ｂが、ＳＨＡＰｖａｌｕｅで構築されていれば、その値を出力する。ＳＨＡＰｖａｌｕｅについては後述する。

つぎに、本実施形態の情報処理装置１００の状態推定処理および根拠推定処理について説明する。図３は、その処理を示すフローチャートである。

ログ情報取得部１０１は、ログ情報をログ情報ＤＢ１０５ａから取得し、特徴量に変換する（Ｓ１０１）。そして、状態推定部１０２は、ログ情報取得部１０１が取得した特徴量を第１状態推定モデル１０４ａ１に入力し、推定結果を取得する（Ｓ１０２）。また、説明推定部１０３は、ログ情報取得部１０１が取得した特徴量を説明推定モデル１０４ｂに入力し、第１状態推定モデル１０４ａ１の推定結果に影響を及ぼした特徴量（ログ情報）を推定する（Ｓ１０２）。ここでは、説明推定部１０３は、説明推定モデル１０４ｂに、同じ特徴量を入力することにより、ＳＨＡＰｖａｌｕｅを算出し、その値に基づいて、推定結果に影響を及ぼした特徴量を推定する。この処理については後述する。

状態推定部１０２が、推定結果としてユーザが第１状態であることを推定すると（ｓ１０３：ＹＥＳ）、第２状態推定モデル１０４ａ２に、ログ情報取得部１０１が取得した特徴量を再度入力する。そして、状態推定部１０２は、第２状態推定モデル１０４ａ２を用いた推定処理を行う（Ｓ１０４）。

状態推定部１０２が、推定結果としてユーザが第１状態であることを推定すると（Ｓ１０３：ＮＯ）、第３状態推定モデル１０４ａ３に、ログ情報取得部１０１が取得して得た特徴量を入力する。そして、状態推定部１０２は、第３状態推定モデル１０４ａ３を用いた推定処理を行う（Ｓ１０５）。

そして、状態推定部１０２は、推定根拠と推定結果とを取得し（Ｓ１０６）、提示部１０６は、推定根拠と推定結果とを出力する（Ｓ１０７）。

このようにして、説明推定モデル１０４ｂを用いた推定結果に対する適格な根拠を示すとともに、状態推定モデル１０４ａ１～１０４ａ３を用いて、詳細な状態推定を行うことができる。

つぎに、説明推定モデル１０４ｂを用いた推定根拠の推定処理について説明する。図４は、図３に示した根拠推定処理に詳細処理を示す。具体的には、処理Ｓ１０２の推定根拠処理の詳細処理を示す。

状態推定部１０２は、状態推定モデル１０４ａ１に特徴量を入力することにより、第１状態であるか、第２状態であるかを推定する（Ｓ１０３、図３におけるＳ１０３に相当）。その推定結果が、第１状態である場合には、説明推定部１０３は、算出したＳＨＡＰｖａｌｕｅに基づいて、第１状態に寄与した特徴量のうち、上位Ｎ件の特徴量を取得する（Ｓ２０１）。また、推定結果が第２状態である場合には、説明推定部１０３は、第２状態に寄与した特徴量のうち、上位Ｎ件の特徴量を取得する（Ｓ２０２）。

ここで図を用いてＳＨＡＰｖａｌｕｅについて説明する。ＳＨＡＰｖａｌｕｅは，各推定結果に対して，それぞれの特徴量がその推定結果にどのような影響を与えたのかを算出する手法である。図５は、ＳＨＡＰｖａｌｕｅを模式的に示した図であり、各特徴量の寄与度を可視化したものである。この図において、ベースラインはデータセット全体の期待値を示す。ベースラインに対して右方向に向いている特徴量（図形矢印：ベースラインの左側の特徴量）は、推定した状態に対して正の寄与を表し、左方向に向いている特徴量（図形矢印：ベースラインの右側の特徴量）は、推定した状態に対して負の寄与を表している。図形矢印の長さが、その期待値への寄与度を示す。

例えば、特徴量ｔ１はおおむね０．１１の長さであり、状態推定に対して０．１１ほど増加（寄与）したことを示している。

ここでは、この矢印の長さの順に、推定した状態に影響を及ぼした特徴量であると考えることができ、上位Ｎ件の特徴量を取得する。ここでは、推定結果に応じてユーザに提示する推定根拠の件数を制限している。

説明推定部１０３は、取得した各特徴量と、そのユーザの過去一定期間の平均値と比較する（Ｓ２０３）。取得した特徴量≧過去の平均値である場合には（Ｓ２０４）、その特徴量の元となる行動は、過去よりも多くなったと判断する（Ｓ２０５）。例えば、スマートフォンの操作において、所定の操作の特徴量が過去平均より多い場合には、その所定の操作が多くなったと判断する。すなわち、その行動が状態推定に対して大きな影響を及ぼしていると判断する。

また、取得した特徴量≧過去の平均値ではない場合には（Ｓ２０４）、その特徴量の元となる行動は、過去よりも少なくなったと判断する（Ｓ２０６）。そして、説明推定部１０３は、これら推定根拠を一時保存する（Ｓ２０７）。保存された推定根拠は、図３において示された通り、状態推定の推定結果とともに出力される。

上述したとおり、推定結果に応じてユーザに提示する推定根拠の件数を制限している。第１状態推定モデルにおいてストレスが高：1と推定された場合には，ストレスを高いと推定することに寄与した特徴量のみをユーザに提示する。また、逆に第１状態推定モデルにおいてストレスが低：０と推定された場合には，ストレスを低いと推定することに寄与した特徴量のみをユーザに提示する。その際、そのストレスの高低の判断の根拠となった行動が過去の行動と比較して、多くなったか低くなったかをユーザに知らせることが可能となる。

つぎに、このような処理を実現する第１状態推定モデル１０４ａ１～第３状態推定モデル１０４ａ３の学習モデル構築処理について説明する。図６は、モデル構築装置２００の機能構成を示すブロック図である。図６に示される通り、モデル構築装置２００は、ログ情報取得部２０１、モデル構築部２０２、および記憶部２０３を含んで構成されている。

ログ情報取得部２０１は、ログ情報ＤＢ２０３ａからログ情報を取得して、モデル構築のための特徴量に変換する部分である。

モデル構築部２０２は、ログ情報を説明変数とし、正解データを目的変数として、学習処理を行うことにより、状態推定モデルおよび説明推定モデルを構築する部分である。

記憶部２０３は、各データベースおよび推定モデルを記憶する部分であり、ログ情報ＤＢ２０３ａ、正解データＤＢ２０３ｂ、第１状態推定モデル２０３ｃ１、第２状態推定モデル２０３ｃ２、第３状態推定モデル２０３ｃ３、説明推定モデル２０３ｄを記憶する。第１状態推定モデル２０３ｃ１、第２状態推定モデル２０３ｃ２、第３状態推定モデル２０３ｃ３、説明推定モデル２０３ｄは、モデル構築部２０２により構築された状態推定モデルおよび説明推定モデルであり、図１における第１状態推定モデル１０４ａ１、第２状態推定モデル１０４ａ２、第３状態推定モデル１０４ａ３、および説明推定モデル１０４ｂに相当する。

図７は、各状態推定モデルを構築するための処理を示すフローチャートである。ログ情報取得部２０１は、ログ情報ＤＢ２０３ａからログ情報を取得し、特徴量に変換し、モデル構築部２０２に入力する。また、モデル構築部２０２は、正解データＤＢ２０３ｂから正解データを取得する（Ｓ３０１）。

なお、正解データＤＢ２０３ｂに記憶されている正解データは、予め用意されたデータである。例えば、正解データがユーザの注意力を示す状態である場合には、ユーザが事前に注意力を測定するための試験等を受けることにより正解データが用意される。その際、正解データと特徴量（ログ情報）とが時間的な対応をとっておくことが必要である。

モデル構築部２０２は、特徴量と正解データとを用いて、第１状態か第２状態かを推定するための第１状態推定モデル２０３ｃ１を構築する。モデル構築部２０２は、特徴量を説明変数とし、正解データを二値化した情報を目的変数として、学習処理を行い、第１状態推定モデルを構築する（Ｓ３０２）。なお、モデル構築部２０２は、説明推定モデル２０３ｄを合わせて構築する。その構築処理は、上述したＳＨＡＰまたはＬＩＭＥなど公知の説明も推定モデルの構築手法を用いる。

ここで正解データを二値化した情報とは、正解データを所定のルールで１または２で規定し直すことをいう。例えば、正解データが５値（１～５）で表されたとすると、正解データの１および２を１とし、３～５を２とすることをいう。なお、二値化処理は、これに限るものではない。

なお、モデル構築装置２００の各機能は、情報処理装置１００に備えられてもよい。

つぎに、モデル構築部２０２は、第１状態および第２状態を示す正解データと、それに対応する特徴量とをそれぞれの状態に対して取得する（Ｓ３０３）。すなわち、第１状態と推定された特徴量および第２状態と推定された特徴量をそれぞれ取得する。

モデル構築部２０２は、第１状態を示す正解データとそれに対応する特徴量とを用いて、第１状態を詳細に推定する第２状態推定モデル２０３ｃ２を構築する（Ｓ３０４）。例えば、第1状態を示す正解データは１および２であり、正解データを１および２とする特徴量を用いて、学習処理を行うことで第２状態推定モデル２０３ｃ２を構築する。

モデル構築部２０２は、第２状態を示す正解データとそれに対応する特徴量とを用いて、第２状態を詳細に推定する第３状態推定モデル２０３ｃ３を構築する（Ｓ３０５）。例えば、第2状態を示す正解データは３～５であり、正解データを３～５とする特徴量を用いて、学習処理を行うことで第３状態推定モデル２０３ｃ３を構築する。

そして、モデル構築部２０２は、第１状態推定モデル２０３ｃ１～第３状態推定モデル２０３ｃ３を連結する（Ｓ３０６）。すなわち、第１状態推定モデル２０３ｃ１において第１状態であると推定されると、第２状態推定モデル２０３ｃ２に推定を継続させるように連結する。第３状態推定モデル２０３ｃ３についても同様である。図１に示した状態推定部１０２は、この連結された推定モデルを用いて、ユーザの状態に応じた状態推定モデル１０４ａ（２０３ａ）を適用することができる。

図８は、各状態推定モデル２０３ａの生成過程を示す模式図である。この例示においては、正解データとして１から５が設定され、入力される特徴量としてｘ１～ｘｎが設定されている。

第１状態推定モデル２０３ｃ１を生成する際には、特徴量ｘ１～ｘｎに対応する正解データを１または２に置き換えて、学習処理が行われる。例えば、特徴量ｘ１１～ｘ１ｎに対応する正解データ：１、特徴量ｘ２１～ｘ２ｎに対応する正解データ：２、特徴量ｘ３１～ｘ３ｎに対応する正解データ：３、とした場合、特徴量ｘ１１～ｘ１ｎおよび特徴量ｘ２１～ｘ２ｎの正解データを、１とし、特徴量ｘ３１～ｘ３ｎに対応する正解データ：２とする。

すなわち正解データである１および２を、１とする正解データに変換され、正解データである３～５を、２とする正解データに変換される。そして、これら変換された正解データを目的変数として学習処理を行うことで、第１状態推定モデル２０３ｃ１を構築することができる。この第１状態推定モデル２０３ｃ１は、特徴量ｘ１～ｘｎに対して、正解データとして１または２を出力することができる。

第２状態推定モデル２０３ｃ２を生成する際には、特徴量ｘ１１～ｘ１ｎから特徴量ｘｍ１～ｘｍｎのそれぞれの特徴量のうち、正解データを１または２とした特徴量ｘａ１～ｘａｎを抽出する。それら抽出された特徴量ｘａ１～ｘａｎを説明変数とし、それら特徴量に対応する正解データ１または２を目的変数とした学習処理を行うことで、第２状態推定モデル２０３ｃ２を構築することができる。第３状態推定モデル２０３ｃ３の構築処理も同様である。

このようにして、段階的に推定モデルを構築することができる。なお、上述の説明では２つの推定モデルを直列に接続しての適用およびその構築について説明したが、これに限るものではない。例えば、図９に示すように３つの推定モデルを直列に連結して推定モデルを構築し、それを特徴量に基づいた推定処理に適用してもよい。この例によると、正解データの１～４を１、正解データの５～８を２に置き換えて第1状態推定モデルを構築している。

つぎに、本実施形態の情報処理装置１００の作用効果について説明する。この情報処理装置１００は、入力データであるログ情報のログ情報ＤＢ１０５ａを記憶するログ情報記憶部１０５と、ログ情報の特徴量に基づいて、出力状態に相当するユーザの状態を推定するための第１状態推定モデル１０４ａ１と、ユーザの状態が所定の状態である場合（例えば注意力がある状態）において、さらに詳細な状態を推定するための第２状態推定モデル１０４ａ２と、第１状態推定モデル１０４ａ１の推定結果に対する推定根拠を、ログ情報に基づいた特徴量を用いて説明するための説明推定モデル１０４ｂとを記憶するモデル記憶部１０４と、第１状態推定モデル１０４ａ１および第２状態推定モデル１０４ａ２を用いて、ログ情報に対するユーザの状態を推定する状態推定部１０２と、説明推定モデル１０４ｂに基づいて第１状態推定モデル１０４ａ１の推定結果の推定根拠を推定する説明推定部１０３とを備える。

この情報処理装置１００によれば、第１状態推定モデル１０４ａ１を用いてユーザの状態を推定するとともに、その推定根拠を推定することができる。また、第２状態推定モデル１０４ａ２を用いてさらに詳細なユーザの状態を推定することができる。したがって、ユーザの状態をより詳細に推定するとともに、ユーザの状態を推定したその根拠については、解釈容易にすることができる。そして、複数の推定モデルを利用することで、ＣＰＵ等制御部の処理不可を軽減するとともに、その処理速度を向上させることができる。

より詳細には、状態推定モデル１０４ａを直列的に連結することで、前段の第１状態推定モデル１０４ａ１を用いて状態推定し、その後段の第２状態推定モデル１０４ａ２を用いてさらに詳細な状態推定を行うことができる。一方で、説明推定モデル１０４ｂは、前段で推定された状態に対する推定根拠を明確にする。

説明推定モデル１０４ｂは、状態推定モデル１０４ａ１を構築する際に、合わせて構築されるモデルであり、両者は対応関係にある。例えば、第１状態推定モデル１０４ａ１を二値推定モデルとすると、説明推定モデル１０４ｂも二値推定モデルとなる。また、第１状態推定モデル１０４ａ１を三値推定モデルとすると、説明推定モデル１０４ｂも三値推定モデルとなる。したがって、状態推定とその推定根拠の推定粒度は同じとなる。

状態推定を行うにあたって、細かな状態の根拠を把握することは困難な場合が多く、またそこに重要性を見いださない場合が多い。例えば、ユーザの注意力を５値評価する場合において、注意力が５である場合と、注意力が４である場合とを推定することがある。この場合、注意力が４であること、また５であることの推定根拠を正確に解釈することは困難である。

ユーザの注意力が４と５で異なる場合には、そのログ情報も似た多様なものとなる。したがって、説明推定モデル１０４ｂを適用した場合には、その説明が似たようなものとなり、ユーザにとって、何故そのような推定根拠となったのか、違いが分かりづらい。一方で、ユーザの注意力が１である場合と、注意力が５である場合との推定根拠を推定することは比較的容易であり、またその推定根拠には重要性がある場合が多い。すなわち、注意力が１と５では、そのログ情報が異なる場合が多く、その説明の違いが大きくなる。

そのため、上述したとおり本実施形態の情報処理装置１００においては、推定モデルを直列に連結して、２段構成とすることで、１段目の第１状態推定モデル１０４ａ１の後にさらに第２状態推定モデル１０４ａ２を連結することで、状態推定の粒度を細かくすることができる一方で、説明推定モデル１０４ｂは、第１状態推定モデル１０４ａ１の推定粒度に合わせた推定根拠の推定を可能にする。したがって、推定根拠を把握しやすくするとともに、またその推定根拠を重要なものとして扱うことを可能にする。

一方で、第１状態推定モデル１０４ａ１のみを用いた場合には、その状態推定の粒度は荒いため、さらに詳細な状態推定を行うことが必要とされる。

上記説明において、入力データをログ情報とし、それに基づいた推定結果としてユーザの状態としたが、これに限るものではない。何らかの入力データがあり、それに基づいた推定を行う処理に本実施形態は適用できる。また、必ずしもログ情報を特徴量に変換する必要も無い。

また、情報処理装置１００において、モデル記憶部１０４は、さらに、第３状態推定モデル１０４ａ３を記憶する。そして、第１状態推定モデル１０４ａ１は、ログ情報に対するユーザの状態が第１状態であるか、第２状態であることを推定するための学習モデルあり、第２状態推定モデル１０４ａ２は、ユーザの状態が第１状態である場合において、さらに詳細な状態を判定するための学習モデルである。また、第３状態推定モデル１０４ａ３は、ユーザの状態が第２状態である場合において、さらに詳細な状態を判定するための学習モデルである。

この情報処理装置１００によれば、第１状態推定モデル１０４ａ１を、二値推定処理を行うモデルとすることで、それに対応する説明推定モデル１０４ｂも、二値推定処理に基づいた説明推定を行うことができる。したがって、状態推定に対する推定根拠を把握しやすい形で提供することができる。

また、この情報処理装置１００において、説明推定部１０３は、推定結果の推定根拠として、ユーザの状態に影響を及ぼした一または複数の特徴量を示す。これにより、その推定根拠を把握することが容易となる。

また、この情報処理装置１００において説明推定部１０３は、説明推定モデル１０４ｂから推定根拠となる特徴量を取得し、当該ログ情報における過去からの変化に基づいて、推定結果とログ情報とに対する分析を行う。

この情報処理装置１００によれば、ログ情報が示すユーザの行動が過去より多くなった、または少なくなったなど具体的な分汗黄結果を提供できる。

また、モデル構築装置２００は、第１状態推定モデル２０３ｃ１を、特徴量と、当該ログ情報に対応して用意された正解データとに基づいて構築し、第２状態推定モデル２０３ｃ２を、第１状態推定モデル１０４ａ１の構築に用いられたログ情報と当該ログ情報に対応する正解データのうち、第２状態推定モデル２０３ｃ２を適用することを示した所定の状態に対応する正解データと、当該正解データに対応したログ情報とに基づいて構築する。

そして、情報処理装置１００は、このように構築された第１状態推定モデル２０３ｃ１等を、第１状態推定モデル１０４ａ１等として用いる。

これにより、その状態に応じた適切な状態推定モデルを構築することができる。

なお、ログ情報から特徴量に変換しない場合もあり、その場合において、上記において特徴量との記載をログ情報と読み替えてもよい。

上記実施形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック（構成部）は、ハードウェア及びソフトウェアの少なくとも一方の任意の組み合わせによって実現される。また、各機能ブロックの実現方法は特に限定されない。すなわち、各機能ブロックは、物理的又は論理的に結合した１つの装置を用いて実現されてもよいし、物理的又は論理的に分離した２つ以上の装置を直接的又は間接的に（例えば、有線、無線などを用いて）接続し、これら複数の装置を用いて実現されてもよい。機能ブロックは、上記１つの装置又は上記複数の装置にソフトウェアを組み合わせて実現されてもよい。

機能には、判断、決定、判定、計算、算出、処理、導出、調査、探索、確認、受信、送信、出力、アクセス、解決、選択、選定、確立、比較、想定、期待、見做し、報知（broadcasting）、通知（notifying）、通信（communicating）、転送（forwarding）、構成（configuring）、再構成（reconfiguring）、割り当て（allocating、mapping）、割り振り（assigning）などがあるが、これらに限られない。たとえば、送信を機能させる機能ブロック（構成部）は、送信部（transmitting unit）や送信機（transmitter）と呼称される。いずれも、上述したとおり、実現方法は特に限定されない。

例えば、本開示の一実施の形態における情報処理装置１００およびモデル構築装置２００などは、本開示の推定モデル実行方法および推定モデル構築方法の処理を行うコンピュータとして機能してもよい。図１０は、本開示の一実施の形態に係る情報処理装置１００およびモデル構築装置２００のハードウェア構成の一例を示す図である。上述の情報処理装置１００およびモデル構築装置２００は、物理的には、プロセッサ１００１、メモリ１００２、ストレージ１００３、通信装置１００４、入力装置１００５、出力装置１００６、バス１００７などを含むコンピュータ装置として構成されてもよい。

なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。情報処理装置１００およびモデル構築装置２００のハードウェア構成は、図に示した各装置を１つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。

情報処理装置１００およびモデル構築装置２００における各機能は、プロセッサ１００１、メモリ１００２などのハードウェア上に所定のソフトウェア（プログラム）を読み込ませることによって、プロセッサ１００１が演算を行い、通信装置１００４による通信を制御したり、メモリ１００２及びストレージ１００３におけるデータの読み出し及び書き込みの少なくとも一方を制御したりすることによって実現される。

プロセッサ１００１は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ１００１は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置（ＣＰＵ：Central Processing Unit）によって構成されてもよい。例えば、上述の状態推定部１０２、説明推定部１０３などは、プロセッサ１００１によって実現されてもよい。

また、プロセッサ１００１は、プログラム（プログラムコード）、ソフトウェアモジュール、データなどを、ストレージ１００３及び通信装置１００４の少なくとも一方からメモリ１００２に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施の形態において説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、状態推定部１０２などは、メモリ１００２に格納され、プロセッサ１００１において動作する制御プログラムによって実現されてもよく、他の機能ブロックについても同様に実現されてもよい。上述の各種処理は、１つのプロセッサ１００１によって実行される旨を説明してきたが、２以上のプロセッサ１００１により同時又は逐次に実行されてもよい。プロセッサ１００１は、１以上のチップによって実装されてもよい。なお、プログラムは、電気通信回線を介してネットワークから送信されても良い。

メモリ１００２は、コンピュータ読み取り可能な記録媒体であり、例えば、ＲＯＭ（Read Only Memory）、ＥＰＲＯＭ（Erasable Programmable ＲＯＭ）、ＥＥＰＲＯＭ（Electrically Erasable Programmable ＲＯＭ）、ＲＡＭ（Random Access Memory）などの少なくとも１つによって構成されてもよい。メモリ１００２は、レジスタ、キャッシュ、メインメモリ（主記憶装置）などと呼ばれてもよい。メモリ１００２は、本開示の一実施の形態に係る状態推定方法および推定モデル構築方法を実施するために実行可能なプログラム（プログラムコード）、ソフトウェアモジュールなどを保存することができる。

ストレージ１００３は、コンピュータ読み取り可能な記録媒体であり、例えば、ＣＤ－ＲＯＭ（Compact Disc ＲＯＭ）などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Ｂｌｕ－ｒａｙ（登録商標）ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー（登録商標）ディスク、磁気ストリップなどの少なくとも１つによって構成されてもよい。ストレージ１００３は、補助記憶装置と呼ばれてもよい。上述の記憶媒体は、例えば、メモリ１００２及びストレージ１００３の少なくとも一方を含むデータベース、サーバその他の適切な媒体であってもよい。

通信装置１００４は、有線ネットワーク及び無線ネットワークの少なくとも一方を介してコンピュータ間の通信を行うためのハードウェア（送受信デバイス）であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。通信装置１００４は、例えば周波数分割複信（ＦＤＤ：Frequency Division Duplex）及び時分割複信（ＴＤＤ：Time Division Duplex）の少なくとも一方を実現するために、高周波スイッチ、デュプレクサ、フィルタ、周波数シンセサイザなどを含んで構成されてもよい。例えば、上述のログ情報取得部１０１は、通信装置１００４によって実現されてもよい。また、送受信機能が物理的に、または論理的に分離された実装がなされてもよい。

入力装置１００５は、外部からの入力を受け付ける入力デバイス（例えば、キーボード、マウス、マイクロフォン、スイッチ、ボタン、センサなど）である。出力装置１００６は、外部への出力を実施する出力デバイス（例えば、ディスプレイ、スピーカー、LEDランプなど）である。なお、入力装置１００５及び出力装置１００６は、一体となった構成（例えば、タッチパネル）であってもよい。

また、プロセッサ１００１、メモリ１００２などの各装置は、情報を通信するためのバス１００７によって接続される。バス１００７は、単一のバスを用いて構成されてもよいし、装置間ごとに異なるバスを用いて構成されてもよい。

また、情報処理装置１００およびモデル構築装置２００は、マイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ：Digital Signal Processor）、ＡＳＩＣ（Application Specific Integrated Circuit）、ＰＬＤ（Programmable Logic Device）、ＦＰＧＡ（Field Programmable Gate Array）などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ１００１は、これらのハードウェアの少なくとも１つを用いて実装されてもよい。

情報の通知は、本開示において説明した態様／実施形態に限られず、他の方法を用いて行われてもよい。例えば、情報の通知は、物理レイヤシグナリング（例えば、ＤＣＩ（Downlink Control Information）、ＵＣＩ（Uplink Control Information））、上位レイヤシグナリング（例えば、ＲＲＣ（Radio Resource Control）シグナリング、ＭＡＣ（Medium Access Control）シグナリング、報知情報（ＭＩＢ（Master Information Block）、ＳＩＢ（System Information Block）））、その他の信号又はこれらの組み合わせによって実施されてもよい。また、ＲＲＣシグナリングは、ＲＲＣメッセージと呼ばれてもよく、例えば、ＲＲＣ接続セットアップ（RRC Connection Setup）メッセージ、ＲＲＣ接続再構成（RRC Connection Reconfiguration）メッセージなどであってもよい。

本開示において説明した各態様／実施形態は、ＬＴＥ（Long Term Evolution）、ＬＴＥ－Ａ（LTE-Advanced）、ＳＵＰＥＲ３Ｇ、ＩＭＴ－Ａｄｖａｎｃｅｄ、４Ｇ（4th generation mobile communication system）、５Ｇ（5th generation mobile communication system）、ＦＲＡ（Future Radio Access）、ＮＲ（new Radio）、Ｗ－ＣＤＭＡ（登録商標）、ＧＳＭ（登録商標）、ＣＤＭＡ２０００、ＵＭＢ（Ultra Mobile Broadband）、ＩＥＥＥ８０２．１１（Ｗｉ－Ｆｉ（登録商標））、ＩＥＥＥ８０２．１６（ＷｉＭＡＸ（登録商標））、ＩＥＥＥ８０２．２０、ＵＷＢ（Ultra-WideBand）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、その他の適切なシステムを利用するシステム及びこれらに基づいて拡張された次世代システムの少なくとも一つに適用されてもよい。また、複数のシステムが組み合わされて（例えば、ＬＴＥ及びＬＴＥ－Ａの少なくとも一方と５Ｇとの組み合わせ等）適用されてもよい。

本開示において説明した各態様／実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本開示において説明した方法については、例示的な順序を用いて様々なステップの要素を提示しており、提示した特定の順序に限定されない。

情報等は、上位レイヤ（又は下位レイヤ）から下位レイヤ（又は上位レイヤ）へ出力され得る。複数のネットワークノードを介して入出力されてもよい。

入出力された情報等は特定の場所（例えば、メモリ）に保存されてもよいし、管理テーブルを用いて管理してもよい。入出力される情報等は、上書き、更新、又は追記され得る。出力された情報等は削除されてもよい。入力された情報等は他の装置へ送信されてもよい。

判定は、１ビットで表される値（０か１か）によって行われてもよいし、真偽値（Boolean：true又はfalse）によって行われてもよいし、数値の比較（例えば、所定の値との比較）によって行われてもよい。

本開示において説明した各態様／実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知（例えば、「Ｘであること」の通知）は、明示的に行うものに限られず、暗黙的（例えば、当該所定の情報の通知を行わない）ことによって行われてもよい。

以上、本開示について詳細に説明したが、当業者にとっては、本開示が本開示中に説明した実施形態に限定されるものではないということは明らかである。本開示は、請求の範囲の記載により定まる本開示の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本開示の記載は、例示説明を目的とするものであり、本開示に対して何ら制限的な意味を有するものではない。

ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。

また、ソフトウェア、命令、情報などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、有線技術（同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線（ＤＳＬ：Digital Subscriber Line）など）及び無線技術（赤外線、マイクロ波など）の少なくとも一方を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び無線技術の少なくとも一方は、伝送媒体の定義内に含まれる。

本開示において説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。

なお、本開示において説明した用語及び本開示の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。例えば、チャネル及びシンボルの少なくとも一方は信号（シグナリング）であってもよい。また、信号はメッセージであってもよい。また、コンポーネントキャリア（ＣＣ：Component Carrier）は、キャリア周波数、セル、周波数キャリアなどと呼ばれてもよい。

本開示において使用する「システム」及び「ネットワーク」という用語は、互換的に使用される。

また、本開示において説明した情報、パラメータなどは、絶対値を用いて表されてもよいし、所定の値からの相対値を用いて表されてもよいし、対応する別の情報を用いて表されてもよい。例えば、無線リソースはインデックスによって指示されるものであってもよい。

上述したパラメータに使用する名称はいかなる点においても限定的な名称ではない。さらに、これらのパラメータを使用する数式等は、本開示で明示的に開示したものと異なる場合もある。様々なチャネル（例えば、ＰＵＣＣＨ、ＰＤＣＣＨなど）及び情報要素は、あらゆる好適な名称によって識別できるので、これらの様々なチャネル及び情報要素に割り当てている様々な名称は、いかなる点においても限定的な名称ではない。

本開示で使用する「判断(determining)」、「決定(determining)」という用語は、多種多様な動作を包含する場合がある。「判断」、「決定」は、例えば、判定(judging)、計算(calculating)、算出(computing)、処理(processing)、導出(deriving)、調査(investigating)、探索(looking up、search、inquiry)（例えば、テーブル、データベース又は別のデータ構造での探索）、確認(ascertaining)した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、受信(receiving)（例えば、情報を受信すること）、送信(transmitting)(例えば、情報を送信すること)、入力(input)、出力(output)、アクセス(accessing)（例えば、メモリ中のデータにアクセスすること）した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、解決(resolving)、選択(selecting)、選定(choosing)、確立(establishing)、比較(comparing)などした事を「判断」「決定」したとみなす事を含み得る。つまり、「判断」「決定」は、何らかの動作を「判断」「決定」したとみなす事を含み得る。また、「判断（決定）」は、「想定する（assuming）」、「期待する（expecting）」、「みなす（considering）」などで読み替えられてもよい。

「接続された(connected)」、「結合された(coupled)」という用語、又はこれらのあらゆる変形は、２又はそれ以上の要素間の直接的又は間接的なあらゆる接続又は結合を意味し、互いに「接続」又は「結合」された２つの要素間に１又はそれ以上の中間要素が存在することを含むことができる。要素間の結合又は接続は、物理的なものであっても、論理的なものであっても、或いはこれらの組み合わせであってもよい。例えば、「接続」は「アクセス」で読み替えられてもよい。本開示で使用する場合、２つの要素は、１又はそれ以上の電線、ケーブル及びプリント電気接続の少なくとも一つを用いて、並びにいくつかの非限定的かつ非包括的な例として、無線周波数領域、マイクロ波領域及び光（可視及び不可視の両方）領域の波長を有する電磁エネルギーなどを用いて、互いに「接続」又は「結合」されると考えることができる。

本開示において使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。

本開示において、「含む（include）」、「含んでいる（including）」及びそれらの変形が使用されている場合、これらの用語は、用語「備える（comprising）」と同様に、包括的であることが意図される。さらに、本開示において使用されている用語「又は（or）」は、排他的論理和ではないことが意図される。

本開示において、例えば、英語でのa, an及びtheのように、翻訳により冠詞が追加された場合、本開示は、これらの冠詞の後に続く名詞が複数形であることを含んでもよい。

本開示において、「ＡとＢが異なる」という用語は、「ＡとＢが互いに異なる」ことを意味してもよい。なお、当該用語は、「ＡとＢがそれぞれＣと異なる」ことを意味してもよい。「離れる」、「結合される」などの用語も、「異なる」と同様に解釈されてもよい。

１００…情報処理装置、１０１…ログ情報取得部、１０２…状態推定部、１０３…説明推定部、１０４…モデル記憶部、１０４ａ…状態推定モデル、１０４ａ１…第１状態推定モデル、１０４ａ２…第２状態推定モデル、１０４ａ３…第３状態推定モデル、１０４ｂ…説明推定モデル、１０５…ログ情報記憶部、１０６…提示部、２００…モデル構築装置、２０１…ログ情報取得部、２０２…モデル構築部、２０３…記憶部、２０３ａ…状態推定モデル、２０３ｃ１…第１状態推定モデル、２０３ｃ２…第２状態推定モデル、２０３ｃ３…痔３状態推定モデル、２０３ｄ…説明推定モデル。

Claims

入力データを記憶するログ情報記憶部と、
前記入力データに基づいて、出力状態を推定するための第１状態推定モデル、および前記出力状態が所定の状態である場合において、さらに詳細な状態を推定するための第２状態推定モデル、を記憶するモデル記憶部と、
前記第１状態推定モデルおよび第２状態推定モデルを用いて、入力データに対する出力状態を推定する推定処理部と、
前記第１状態推定モデルの推定結果に対する推定根拠を、前記入力データを用いて説明するための説明推定モデルを記憶する説明モデル記憶部と、
前記説明推定モデルに基づいて第１状態推定モデルの推定結果の推定根拠を推定する説明推定部と、
を備える情報処理装置。
前記モデル記憶部は、さらに、第３状態推定モデルを記憶し、
前記第１状態推定モデルは、入力データに対する出力状態が第１状態であるか、第２状態であることを推定するための学習モデルであり、
前記第２状態推定モデルは、前記出力状態が第１状態である場合において、さらに詳細な状態を判定するための学習モデルであり、
前記第３状態推定モデルは、前記出力状態が第２状態である場合において、さらに詳細な状態を判定するための学習モデルである、
請求項１に記載の情報処理装置。
前記説明推定部は、
前記推定結果の推定根拠として、前記出力状態に影響を及ぼした一または複数の入力データを示す、請求項１または２に記載の情報処理装置。
前記説明推定部は、
前記説明モデル記憶部から推定根拠となる入力データを取得し、当該入力データにおける過去からの変化に基づいて、前記推定結果と入力データとに対する分析を行う、請求項１～３のいずれか一項に記載の情報処理装置。
前記第１状態推定モデルは、
入力データと、当該入力データに対応して用意された正解データとに基づいて構築され、
前記第２状態推定モデルは、
前記第１状態推定モデルの構築に用いられた入力データと当該入力データに対応する前記正解データのうち、第２状態推定モデルを適用することを示した所定の状態に対応する正解データと、当該正解データに対応した入力データとに基づいて構築される、
請求項１～４のいずれか一項に記載の情報処理装置。