JP2023180943A - 情報処理装置、情報処理方法およびプログラム - Google Patents
情報処理装置、情報処理方法およびプログラム Download PDFInfo
- Publication number
- JP2023180943A JP2023180943A JP2022094635A JP2022094635A JP2023180943A JP 2023180943 A JP2023180943 A JP 2023180943A JP 2022094635 A JP2022094635 A JP 2022094635A JP 2022094635 A JP2022094635 A JP 2022094635A JP 2023180943 A JP2023180943 A JP 2023180943A
- Authority
- JP
- Japan
- Prior art keywords
- evaluation
- user
- request
- communication
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims description 32
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000011156 evaluation Methods 0.000 claims abstract description 498
- 238000004891 communication Methods 0.000 claims abstract description 81
- 230000004044 response Effects 0.000 claims abstract description 63
- 238000001514 detection method Methods 0.000 claims description 109
- 238000004458 analytical method Methods 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 23
- 230000008451 emotion Effects 0.000 claims description 16
- 238000000034 method Methods 0.000 description 40
- 238000010586 diagram Methods 0.000 description 19
- 238000003384 imaging method Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 230000008921 facial expression Effects 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 2
- 102100025279 C-X-C motif chemokine 11 Human genes 0.000 description 1
- 101100222381 Homo sapiens CXCL11 gene Proteins 0.000 description 1
- 241001442654 Percnon planissimum Species 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008909 emotion recognition Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- User Interface Of Digital Computer (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
Abstract
【課題】電子機器の利用者と他者とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識する。【解決手段】電子機器の利用者に対する他者からのコミュニケーションの要求を評価する。要求に対する利用者の対応を評価する。前記要求の評価結果と前記対応の評価結果とに基づき、利用者と他者とのコミュニケーションが、電子機器の利用により阻害されている状態であるかを判定する。コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。【選択図】図3
Description
本開示は、会話・コミュニケーションが電子機器の利用により阻害されている状態を検出する技術に関する。
スマートフォン、タブレット、ノート型PC、デスクトップ型PCなどの電子機器が普及し、提供サービスが拡大することにより、日常の様々なシーンで電子機器を利用する機会が増えている。
一方、家庭内において、特に養育者が電子機器を利用することによって、養育者と子供とのコミュニケーションを阻害し、例えば、愛着形成不全、親の真似を介した発達機会の喪失といった影響が指摘されている。そのため、色々な情報を用いてコミュニケーションなどを評価することが検討されている。
この点、特許文献1は、画像内における対象人物とその周囲の人物の表情の明るさスコアを算出し、その差分を基に、例えば、***およびいじめなどの人物間の問題が生じる可能性を推定し、推定結果を通知する技術を開示する。
″赤ちゃんの泣き声から感情を分析「パパっと育児@赤ちゃん手帳」で提供開始″、[online]、株式会社PR TIMES、[令和4年5月25日検索]、インターネット〈URL:https://prtimes.jp/main/html/rd/p/000000006.000023831.html〉
″声ダケノ感情認識テスト″、[online]、株式会社Empas、[令和4年5月25日検索]、インターネット〈URL:https://webempath.net/lp-jpn/〉
俵 直弘、″この声、何歳? 話者クラスタリングを用いた深層話者属性推定″、[online]、NTTコミュニケーション科学研究所、[令和4年5月25日検索]、インターネット〈URL:https://www.rd.ntt/cs/event/openhouse/2020/download/c_15.pdf〉
″Speech-to-Text″、[online]、Google、[令和4年5月25日検索]、インターネット〈URL:https://cloud.***.com/speech-to-text?hl=ja〉
″視線センシングで魅せる次世代UX「視線検出技術」″、[online]、株式会社スワローインキュベート、[令和4年5月25日検索]、インターネット〈URL:https://eyetrack.pas-ta.io/〉
″head-pose-estimationを用いて顔の向きを推定する″、[online]、アイタックソリューションズ株式会社、[令和4年5月25日検索]、インターネット〈URL:https://www.itd-blog.jp/entry/peep-prevention-1〉
″評価ボード・開発キット ToFカメラとは?~ToFカメラを使ってできること~″、[online]、東京エレクトロンデバイス株式会社、[令和4年5月25日検索]、インターネット〈URL:https://www.inrevium.com/pickup/tofcamera/〉
″AIによる奥行の推定″、[online]、株式会社ブリスウェル、[令和4年5月25日検索]、インターネット〈URL:https://tech.briswell.com/entry/2021/03/28/204127?utm_source=feed〉
特許文献1の技術は、人物の表情を基に上述の問題が生じる可能性を検出している。
一方、子供の養育者が電子機器を利用することにより当該養育者と当該子供とのコミュニケーションを阻害するシーンでは、養育者の表情の変化が必ずしも発生しない。そのため、特許文献1の技術を採用し、養育者および子供の画像を取得しても、取得した画像を基に、養育者が電子機器を利用することによる当該養育者と子供とのコミュニケーションの阻害状態を適切に検出することができなかった。このような課題は、例えば、子供が電子機器を利用するときの当該子供と養育者との間など、電子機器の利用者と他者との間で生じえた。
本開示の一態様に係る情報処理装置は、電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、前記要求に対する前記利用者の対応を評価する第2の評価手段と、前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、を有することを特徴とする。
本開示によれば、電子機器の利用者と他者とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
以下、添付図面を参照して本開示の技術の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本開示の技術を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本開示の技術の解決手段に必須のものとは限らない。同一の構成要素には同一の参照番号を付して、説明を省略する。
<<実施形態1>>
図1は、本実施形態に係る検出システム100のハードウェア構成例を示す図である。検出システム100は、詳細につき後述するテクノフェレンスを検出する検出機能を有する。なお、テクノフェレンスの検出機能について、例えば、特定の日、特定の曜日、特定の時間などの特定の期間にて、有効または無効とする設定を行うことが可能であるとする。
図1は、本実施形態に係る検出システム100のハードウェア構成例を示す図である。検出システム100は、詳細につき後述するテクノフェレンスを検出する検出機能を有する。なお、テクノフェレンスの検出機能について、例えば、特定の日、特定の曜日、特定の時間などの特定の期間にて、有効または無効とする設定を行うことが可能であるとする。
検出システム100は、CPU101、ROM102、RAM103、通信IF(インターフェース)104および入力/出力IF105を有し、各構成要素がバス106によりデータを送受信可能に接続されている。
CPU(中央処理装置)101は、ROM102に格納されたプログラムやRAM103にロードしたプログラムに沿って検出システム100の動作制御を行う。ROM102は読み出し専用メモリであり、ブートプログラムやファームウェア、後述する処理を実現するための各種処理プログラム、各種データを格納している。RAM103は、CPU101にて処理を行うために一時的にプログラムやデータを格納しておくワークメモリであり、CPU101により各種処理プログラムやデータがロードされる。
通信IF104は、ネットワークを介した外部装置(不図示)との通信制御を行うためのインターフェースであり、ネットワークを介して、データの送受信を行う。入力/出力IF105は、詳細につき後述する集音器311、表示器312および拡声器313などの、データの入出力を行う機器と接続するインターフェースである。
<検出システムの適用例>
図2は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用するデバイス利用者201と、スマートフォン211等の電子機器を利用しないデバイス非利用者202とが同じ部屋に居て、デバイス非利用者202がデバイス利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、検出システム100がスマートフォン211に適用されているとする。デバイス利用者(以下、利用者と称す)201およびデバイス非利用者(以下、非利用者と称す)202は、例えば、子供を養育する養育者および当該子供とするがこれに限定されず、子供および当該子供を養育する養育者としてもよい。また、デバイス利用者は養育者に限らず、保育者などでもよいし、それ以外の血縁関係にない第三者であってもよい。また、非利用者は子供でなくても、利用者とコミュニケーションをとりたい者であればよい。例えば、利用者の配偶者や兄弟姉妹でもよく、血縁関係にない第三者であってもよい。また、他者であってもよい。
図2は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用するデバイス利用者201と、スマートフォン211等の電子機器を利用しないデバイス非利用者202とが同じ部屋に居て、デバイス非利用者202がデバイス利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、検出システム100がスマートフォン211に適用されているとする。デバイス利用者(以下、利用者と称す)201およびデバイス非利用者(以下、非利用者と称す)202は、例えば、子供を養育する養育者および当該子供とするがこれに限定されず、子供および当該子供を養育する養育者としてもよい。また、デバイス利用者は養育者に限らず、保育者などでもよいし、それ以外の血縁関係にない第三者であってもよい。また、非利用者は子供でなくても、利用者とコミュニケーションをとりたい者であればよい。例えば、利用者の配偶者や兄弟姉妹でもよく、血縁関係にない第三者であってもよい。また、他者であってもよい。
スマートフォン211は利用者201によって操作されるデバイス(電子機器)である。スマートフォン211は、利用者201がスマートフォン211を利用した状況(履歴)に関する情報を利用情報として取得する。また、スマートフォン211は、利用者201が発する音声、および、非利用者202が発する音声などの、スマートフォン211の周辺環境で生じた音声を、音声情報として取得する。なお、本実施形態では、検出システム100についてスマートフォン211への適用例を示したが、これに限定されない。検出システム100についてスマートフォン211以外の電子機器に適用しても構わない。
<検出システムの機能構成>
図3は、本実施形態に係る検出システム100の機能構成例を示す図である。検出システム100は、音声取得部301、要求評価部302、利用情報取得部303、対応評価部304を有する。検出システム100は、さらに、テクノフェレンス検出部(以下、TF検出部と称す)305、テクノフェレンス通知部(以下、TF通知部と称す)306を有する。検出システム100は、外部機器である集音器311、表示器312および拡声器313と接続する。なお、集音器311、表示器312および拡声器313は、検出システム100と接続する形態に限定されず、検出システム100の内部に含まれる形態であってもよい。
図3は、本実施形態に係る検出システム100の機能構成例を示す図である。検出システム100は、音声取得部301、要求評価部302、利用情報取得部303、対応評価部304を有する。検出システム100は、さらに、テクノフェレンス検出部(以下、TF検出部と称す)305、テクノフェレンス通知部(以下、TF通知部と称す)306を有する。検出システム100は、外部機器である集音器311、表示器312および拡声器313と接続する。なお、集音器311、表示器312および拡声器313は、検出システム100と接続する形態に限定されず、検出システム100の内部に含まれる形態であってもよい。
音声取得部301は、検出システム100と接続される集音器311で収集した音声の情報を取得する。利用者201と非利用者202とが同じ部屋に居る場面であって、検出システム100を利用者201が利用するスマートフォン211に適用した場合、音声取得部301が取得する音声情報は、次に示す音声情報を含む。すなわち、音声取得部301が取得する音声情報は、利用者201が発する音声を示すデバイス利用者の音声情報を含む。または、音声取得部301が取得する音声情報は、非利用者202が発する音声を示すデバイス非利用者の音声情報を含む。または、音声取得部301が取得する音声情報は、デバイス利用者およびデバイス非利用者の両方の音声情報を含む。なお、音声取得部301が取得した音声情報は、要求評価部302および対応評価部304に送られる。
要求評価部302は、音声取得部301にて取得した音声情報(第1の音声情報)に基づき、非利用者202から利用者201へのコミュニケーション要求について詳細につき後述する要求評価項目を評価して要求評価値を求める。具体的には、先ず、利用者201の音声情報(第2の音声情報)と、非利用者202の音声情報(第3の音声情報)とは、予め登録されており、不図示の音声情報格納部に格納されているとする。続いて、予め登録された第2および第3の音声情報を用いて、第1の音声情報に第3の音声情報(非利用者202の音声情報)が含まれているか判定する。続いて、含まれているとの判定結果を得ると、第1の音声情報のうち、第3の音声情報が含まれる部分を解析する。この解析結果として、デバイス利用者への要求の有無、デバイス非利用者の感情(種別/強度)、デバイス非利用者の月齢/年齢に関する情報が得られる。得られた情報から対応する要求評価値が求められる。要求評価値の詳細については後述する。求められた要求評価値は、TF検出部305に送られる。
利用情報取得部303は、スマートフォン211で生成された、電子機器(デバイス)の利用状況を示す利用情報を取得する。利用情報は、利用者201がスマートフォン211を使用しているか否かを示す情報を含む。なお、利用情報は、少なくともスマートフォン211の画面が点灯している状態であるとき、この状態をスマートフォン211が利用されている状態であることを示す情報として含む。利用情報取得部303が取得した利用情報は、対応評価部304に送られる。
対応評価部304は、音声取得部301にて取得した音声情報と、利用情報取得部303にて取得した利用情報とに基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について詳細につき後述する対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。具体的には、非利用者202のコミュニケーションの要求に対応する応答であるか否かを判定する。非利用者202のコミュニケーションの要求に対して、所定時間以内に利用者201の音声情報が無いと、要求に対する応答なしと判定する。また、所定時間以内に利用者201の音声情報があっても、この利用者201の音声情報が、予め登録された応答情報と異なると、要求に対する応答なしと判定する。他方、予め登録された応答情報と同じであると、要求に対する応答ありと判定する。そして、応答なしとの判定結果が得られると、「不適切」の評価結果を得ることになる。他方、応答ありとの判定結果が得られると、「適切」の評価結果を得ることになる。そして、評価結果に対応した対応評価値が求められる。対応評価値の詳細については後述する。求められた対応評価値は、TF検出部305に送られる。
TF検出部305は、要求評価値と対応評価結果とに基づき、利用者201と非利用者202とのコミュニケーションが、スマートフォン211(電子機器)の利用により阻害されている状態(以降、テクノフェレンス)を検出する。テクノフェレンスは、乳幼児などの子供を養育する養育者と、当該養育者により養育される子供とのコミュニケーションが、電子機器の利用により阻害されている状態であるとする。検出処理の詳細は後述する。なお、TF検出部305は、上述の検出処理による検出結果として、テクノフェレンスを検出する場合とテクノフェレンスを検出しない場合とがあることから、テクノフェレンスの有無を判定するともいえる。検出結果は、TF通知部306に送られる。
TF通知部306は、TF検出部305にて検出したテクノフェレンスの検出結果を基に、テクノフェレンスの通知処理を実行する。テクノフェレンスの通知処理の詳細は後述する。テクノフェレンスの通知先は、表示器312および拡声器313の両方であるが、これに限定されない。テクノフェレンスの通知先は、表示器312のみであってもよいし、拡声器313のみであってもよいし、表示器312および拡声器313以外の機器であってもよい。
<検出システムが実行する処理>
図4は、検出システムが実行する処理の流れを示すフローチャートである。CPU101は、ROM102に格納された図4に示すフローチャートを実現するプログラムを読み出して、RAM103をワークエリアとして使用して実行する。これによりCPU101は、図3に示す各機能構成としての役割を果たす。上述のテクノフェレンスの検出機能が有効に設定されているとする。なお、フローチャートの説明における記号「S」は、ステップを表すものとする。この点、以下のフローチャートの説明においても同様とする。
図4は、検出システムが実行する処理の流れを示すフローチャートである。CPU101は、ROM102に格納された図4に示すフローチャートを実現するプログラムを読み出して、RAM103をワークエリアとして使用して実行する。これによりCPU101は、図3に示す各機能構成としての役割を果たす。上述のテクノフェレンスの検出機能が有効に設定されているとする。なお、フローチャートの説明における記号「S」は、ステップを表すものとする。この点、以下のフローチャートの説明においても同様とする。
S401では、要求評価部302は、音声取得部301にて取得した音声情報に基づき、非利用者202から利用者201へのコミュニケーションの要求を検出する。なお、デバイス利用者への要求の有無の検出に関し、上述したように予め登録された音声情報を用いてもよいし、上述の非特許文献1に記載の技術を用いてもよい。そして、要求評価部302は、要求の検出結果と、音声取得部301にて取得した音声情報とに基づき、要求について要求評価項目を評価して要求評価値を算出する。算出された要求評価値は、TF検出部305に送られる。
S402では、対応評価部304は、音声取得部301にて取得した音声情報と、利用情報取得部303にて取得した利用情報とに基づき、非利用者202からのコミュニケーション要求に対する利用者201の対応評価値を算出する。すなわち、対応評価部304は、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出された対応評価値は、TF検出部305に送られる。
S403では、TF検出部305は、S401にて算出した要求評価値と、S402にて算出した対応評価値とに基づき、テクノフェレンスの検出処理を実行する。テクノフェレンスの検出処理の詳細は後述する。テクノフェレンスの検出結果は、TF通知部306に送られる。
S404では、TF通知部306は、テクノフェレンスの通知処理を実行する。テクノフェレンスの通知処理の詳細は後述する。なお、テクノフェレンスの通知処理を完了すると、図4に示すフローを終える。
<要求評価結果>
図5は、要求評価部302にて算出した要求評価結果例を示す図である。要求評価結果500は、時刻501にて示される時刻毎に、デバイス利用者への要求有無に関する評価項目502の評価結果、要求時の感情(種別/強度)に関する評価項目503の評価結果、月齢/年齢に関する評価項目504の評価結果を有する。時刻501は、デバイス非利用者の音声情報を検出した際の時刻を表している。
図5は、要求評価部302にて算出した要求評価結果例を示す図である。要求評価結果500は、時刻501にて示される時刻毎に、デバイス利用者への要求有無に関する評価項目502の評価結果、要求時の感情(種別/強度)に関する評価項目503の評価結果、月齢/年齢に関する評価項目504の評価結果を有する。時刻501は、デバイス非利用者の音声情報を検出した際の時刻を表している。
デバイス利用者への要求有無に関する評価項目502では、音声取得部301にて取得した音声情報に基づき、利用者201に対する非利用者202からのコミュニケーションの要求の有無に関する評価結果と、この評価結果に対応した評価値とを示している。デバイス利用者への要求の有無に関し、音声取得部301にて取得した音声情報が、例えば、「ねーねー」または「パパー」などの特定の音声情報を含むとの解析結果が得られると、要求ありと評価することになる。他方、音声取得部301にて取得した音声情報が、前記特定の情報を含まないとの解析結果が得られると、要求なしと評価することになる。なお、「要求あり」の評価結果に対応する評価値は5であり、「要求無し」の評価結果に対応する評価値は0であるとするが、これに限定されない。
要求時の感情(種別/強度)に関する評価項目503では、非利用者202が利用者201に対してコミュニケーションを要求したときの感情(種別/強度)に関する評価結果と、この評価結果に対応した評価値を示している。要求時の感情(種別/強度)の評価に関し、例えば、非特許文献2に記載の技術など公知の技術を用いることが可能である。感情の種別として、例えば、哀しみ、怒り、無しなどを検出する。また、感情の強度として、中、小を検出する。これら検出結果に基づき、感情(種別/強度)に関し、利用者201に対する非利用者202のコミュニケーションの要求について、哀しみ、怒り、無しの何れの感情であり、中、小の何れの感情の強度であるかを評価することになる。なお、感情/強度に関し、「哀/小」および「怒/小」の評価結果に対応する評価値は1とし、「哀/中」および「怒/中」の評価結果に対応する評価値は2とし、「無し」の評価結果に対応する評価値は0とするが、これに限定されない。
月齢/年齢に関する評価項目504では、音声取得部301にて取得した音声情報に基づき、非利用者202の月齢/年齢に関する評価結果と、この評価結果に対応する評価値とを示している。月齢/年齢の評価に関し、音声情報を解析して推定した年齢または事前に登録された年齢と、個人情報と照合する形態でもよい。なお、月齢/年齢の評価に関し、例えば、非特許文献3に記載の技術などの公知の技術を用いることが可能である。なお、月齢/年齢に関し、「6ヶ月以下」の評価結果に対応する評価値は3とし、「6ヶ月~12ヶ月」の評価結果に対応する評価値は2とし、「12ヶ月~24ヶ月」の評価結果に対応する評価値は1とするが、これに限定されない。
なお、上述の要求評価結果500について、時刻501の「t0」において、評価項目502では「有(5)」を、評価項目503では「哀/小(1)」を、評価項目504では「24ヶ月(1)」を示している。
<対応評価結果>
図6は、対応評価部304にて算出した対応評価結果例を示す図である。対応評価結果600は、時刻601にて示される時刻毎に、デバイス利用有無に関する評価項目602の評価結果、対応時の発言内容に関する評価項目603の評価結果を有する。なお、時刻601は、要求評価結果500の時刻501にて示される時刻と同じ時刻を示している。
図6は、対応評価部304にて算出した対応評価結果例を示す図である。対応評価結果600は、時刻601にて示される時刻毎に、デバイス利用有無に関する評価項目602の評価結果、対応時の発言内容に関する評価項目603の評価結果を有する。なお、時刻601は、要求評価結果500の時刻501にて示される時刻と同じ時刻を示している。
デバイス利用有無に関する評価項目602では、音声情報と利用情報に基づき、非利用者202からのコミュニケーション要求時における利用者201によるスマートフォン211の利用の有無に関する評価結果と、この評価結果に対応した評価値を示している。スマートフォン211の利用の有無に関し、利用情報が、スマートフォン211を利用していることを示す情報を含むとの解析結果が得られると、デバイス利用ありと評価することになる。他方、利用情報が、スマートフォン211を利用していないことを示す情報を含むとの解析結果が得られると、デバイス利用なしと評価することになる。なお、「デバイス利用あり」の評価結果に対応する評価値は3であり、「デバイス利用なし」の評価結果に対応する評価値は0であるとするが、これに限定されない。
対応時の発言内容に関する評価項目603では、非利用者202からのコミュニケーション要求に対する利用者201による対応時の発言内容に関する評価結果と、この評価結果に対応した評価値とを示している。発言内容の評価に関し、利用者201および非利用者202の音声をテキスト化したものを利用し、非利用者202の要求に対応する応答であるかを判断する。なお、音声のテキスト化に関し、例えば、非特許文献4に記載の技術など公知の技術を用いることが可能である。対応時の発言内容に関し、音声取得部301にて取得した音声情報にて、要求後の所定時間以内に、応答なしとの解析結果が得られると、不適切と評価することになる。他方、音声取得部301にて取得した音声情報にて、要求後の所定時間以内に、応答ありとの解析結果が得られると、適切と評価することになる。なお、「適切」の評価結果に対応する評価値は0であり、「不適切」の評価結果に対応する評価値は2であるとするが、これに限定されない。
なお、上述の対応評価結果600について、時刻601の「t0」において、評価項目602では「有(3)」を、評価項目603では「不適切(2)」を示している。
<テクノフェレンスの検出処理>
図7は、テクノフェレンス(以下、TFと称す)の検出処理(S403)の詳細な流れを示すフローチャートである。
図7は、テクノフェレンス(以下、TFと称す)の検出処理(S403)の詳細な流れを示すフローチャートである。
S701では、TF検出部305は、現時刻のTFスコアおよび一定時刻Tn分のTFスコア総和を算出する。現時刻のTFスコアは、要求評価部302による評価結果と、対応評価部304による評価結果とに基づき算出される。本実施形態では、例えば各評価部の評価結果を数値に変換し、評価部内で数値を足し合わせ、評価部間で数値を掛け合わせる。そして、求められた数値に対して、デバイス利用者へのコミュニケーション要求有無の評価項目502の評価結果が有の場合を1とし、無の場合を0とした値をさらに掛け合わせることでTFスコアを算出する。ここで、要求評価部302による評価結果について、図5に示す要求評価結果500を例にして説明する。評価項目502の評価結果「有」を5に変換し、評価項目503の評価結果「哀/小」を1に変換し、評価項目504の評価結果「24カ月」を1に変換する。そして、5と1と1とを足し合わせ、要求評価部302の要求評価値として7を算出する。対応評価部304による評価結果について、図6に示す対応評価結果600を例にして説明する。評価項目602の評価結果「有」を3に変換し、評価項目603の評価結果「不適切」を2に変換する。そして、3と2とを足し合わせ、対応評価部304の対応評価値として5を算出する。そして、要求評価値の7と対応評価値の5とを掛け合わせて35を算出する。デバイス利用者への要求有無の評価項目502の評価結果が「有」であることから、35に1を掛け合わせた35をTFスコアとして算出する。なお、デバイス利用者への要求有無の評価項目502の評価結果が「無」である場合には、35に0を掛け合わせた0をTFスコアとして算出する。
また、一定時刻Tn分のTFスコア総和は、過去から現時刻までのn個分のTFスコアを足し合わせた値となる。例えば、一定時刻Tnが3であり、現時刻がT4である場合、一定時刻T3分のTFスコア総和は、時刻T2のTFスコアと時刻T3のTFスコアと時刻T4のTFスコアとを足し合わせた値となる。
S702では、TF検出部305は、現時刻のTFスコアが閾値THα以上であるかを判定する。現時刻のTFスコアが閾値THα以上でないとの判定結果を得た場合(S702のNO)、処理がS703に移行される。他方、現時刻のTFスコアが閾値THα以上であるとの判定結果を得た場合(S702のYES)、処理がS704に移行される。
S703では、TF検出部305は、一定時刻Tn分のTFスコア総和が閾値THβ以上であるか判定する。すなわち、TF検出部305は、現時刻から過去Tn分のTFスコア総和が閾値THβ以上であるか判定する。現時刻から過去Tn分のTFスコア総和が閾値THβ以上でないとの判定結果を得た場合(S703のNO)、処理がS705に移行される。他方、現時刻から過去Tn分のTFスコア総和が閾値THβ以上であるとの判定結果を得た場合(S703のYES)、処理がS704に移行される。
S704では、TF検出部305は、TFを検出したことを確定することになる。S705では、TF検出部305は、TFを検出していないことを確定することになる。なお、S704の処理またはS705の処理が完了すると、図7に示すフローを終える。
<TFスコアによるテクノフェレンスの検出>
図8は、現時刻のTFスコアが閾値THα以上と判定される例を示す図である。図8の例では、閾値THαを40とし、一定時刻Tnを3とする。なお、時刻801は時刻501に、評価項目802は評価項目502に、評価項目803は評価項目503に、評価項目804は評価項目504にそれぞれ対応する。また、評価項目811は評価項目602に、評価項目812は評価項目603にそれぞれ対応する。
図8は、現時刻のTFスコアが閾値THα以上と判定される例を示す図である。図8の例では、閾値THαを40とし、一定時刻Tnを3とする。なお、時刻801は時刻501に、評価項目802は評価項目502に、評価項目803は評価項目503に、評価項目804は評価項目504にそれぞれ対応する。また、評価項目811は評価項目602に、評価項目812は評価項目603にそれぞれ対応する。
t0の時刻801では、評価項目802の評価結果(評価値)が無(0)であることから、現時刻t0のTFスコア821は0である。現時刻t0のTFスコア821が0であることから、現時刻t0のTFスコア総和822は0である。
t1の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が無(0)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が適切(0)である。そのため、対応評価値は、3+0の3となる。そして、現時刻t1でのTFスコア821は、現時刻t1の要求評価値の6と現時刻t1の対応評価値の3とを掛け合わせて得た値に対し、現時刻t1にて評価項目802の評価結果が有の場合の1を掛け合わせた18となる。t1分のTFスコア総和822は、t0のTFスコア821の0と、t1のTFスコア821の18とを足し合わせた18となる。
t2の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が哀/小(1)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+1+1の7となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t2でのTFスコア821は、現時刻t2の要求評価値の7と現時刻t2の対応評価値の5とを掛け合わせて得た値に対し、現時刻t2にて評価項目802の評価結果が有の場合の1を掛け合わせた35となる。t2分のTFスコア総和822は、t0のTFスコア821の0と、t1のTFスコア821の18と、t2のTFスコア821の35とを足し合わせた53となる。
t3の時刻801では、評価項目802の評価結果(評価値)が有(5)であり、評価項目803の評価結果(評価値)が哀/中(2)であり、評価項目804の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+2+1の8となる。評価項目811の評価結果(評価値)が有(3)であり、評価項目812の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア821は、現時刻t3の要求評価値の8と現時刻t3の対応評価値の5とを掛け合わせて得た値に対し、現時刻t3にて評価項目802の評価結果が有の場合の1を掛け合わせた40となる。t3分のTFスコア総和822は、t1のTFスコア821の18と、t2のTFスコア821の35と、t3のTFスコア821の40とを足し合わせた93となる。
上述したように、時刻t3におけるTFスコア831は40であり、この数値が閾値THα以上であるため、TFの検出を確定し、S404にてTFの検出を通知することになる。
<Tn分のTFスコア総和によるテクノフェレンスの検出>
図9は現時刻から過去Tn分のTFスコア総和が閾値THβ以上と判定される例を示す図である。図9の例では、閾値THβを100とし、一定時刻Tnを3とする。なお、時刻901は時刻501に、評価項目902は評価項目502に、評価項目903は評価項目503に、評価項目904は評価項目504にそれぞれ対応する。また、評価項目911は評価項目602に、評価項目912は評価項目603にそれぞれ対応する。
図9は現時刻から過去Tn分のTFスコア総和が閾値THβ以上と判定される例を示す図である。図9の例では、閾値THβを100とし、一定時刻Tnを3とする。なお、時刻901は時刻501に、評価項目902は評価項目502に、評価項目903は評価項目503に、評価項目904は評価項目504にそれぞれ対応する。また、評価項目911は評価項目602に、評価項目912は評価項目603にそれぞれ対応する。
t0の時刻901では、評価項目902の評価結果(評価値)が無(0)であることから、現時刻t0のTFスコア921は0である。現時刻t0のTFスコア921が0であることから、現時刻t0のTFスコア総和922は0である。
t1の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が無(0)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が適切(0)である。そのため、対応評価値は、3+0の3となる。そして、現時刻t1でのTFスコア921は、現時刻t1の要求評価値の6と現時刻t1の対応評価値の3とを掛け合わせて得た値に対し、現時刻t1にて評価項目902の評価結果が有の場合の1を掛け合わせた18となる。t1分のTFスコア総和922は、t0のTFスコア921の0と、t1のTFスコア921の18と足し合わせた18となる。
t2の時刻901では、t1の時刻901のときと同じであり、要求評価値は5+0+1の6となり、対応評価値は3+0の3となる。そして、現時刻t2でのTFスコア921は、現時刻t2の要求評価値の6と現時刻t2の対応評価値の3とを掛け合わせて得た値に対し、現時刻t2にて評価項目902の評価結果が有の場合の1を掛け合わせた18となる。t2分のTFスコア総和922は、t0のTFスコア921の0と、t1のTFスコア921の18と、t2のTFスコア921の18と足し合わせた36となる。
t3の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が哀/小(1)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+1+1の7となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア921は、現時刻t3の要求評価値の7と現時刻t3の対応評価値の5とを掛け合わせて得た値に対し、現時刻t3にて評価項目902の評価結果が有の場合の1を掛け合わせた35となる。t3分のTFスコア総和922は、t1のTFスコア921の18と、t2のTFスコア921の18と、t3のTFスコア921の35と足し合わせた71となる。
t4の時刻901では、評価項目902の評価結果(評価値)が有(5)であり、評価項目903の評価結果(評価値)が無(0)であり、評価項目904の評価結果(評価値)が24ヶ月(1)である。そのため、要求評価値は、5+0+1の6となる。評価項目911の評価結果(評価値)が有(3)であり、評価項目912の評価結果(評価値)が不適切(2)である。そのため、対応評価値は、3+2の5となる。そして、現時刻t3でのTFスコア921は、現時刻t4の要求評価値の6と現時刻t4の対応評価値の5とを掛け合わせて得た値に対し、現時刻t4にて評価項目902の評価結果が有の場合の1を掛け合わせた30となる。t3分のTFスコア総和922は、t2のTFスコア921の18と、t3のTFスコア921の35と、t4のTFスコア921の30と足し合わせた83となる。
t5の時刻901では、t3の時刻901のときと同じであり、要求評価値は5+1+1の7となり、対応評価値は3+2の5となる。そして、現時刻t5でのTFスコア921は、現時刻t5の要求評価値の7と現時刻t5の対応評価値の5とを掛け合わせて得た値に対し、現時刻t5にて評価項目902の評価結果が有の場合の1を掛け合わせた35となる。t3分のTFスコア総和922は、t3のTFスコア921の35と、t4のTFスコア921の30と、t5のTFスコア921の35とを足し合わせた100となる。
上述したように、時刻t5におけるTFスコア総和931は100であり、この数値が閾値THβ以上であるため、TFの検出を確定し、S404にてTFの検出を通知することになる。
<TFの通知処理>
図10は、TFの通知処理(S404)の詳細な流れを示すフローチャートである。
図10は、TFの通知処理(S404)の詳細な流れを示すフローチャートである。
S1001では、TF通知部306は、TF検出部305でTFを検出したか判定する。TFを検出したとの判定結果を得た場合(S1001のYES)、処理がS1002に移行される。他方、TFを検出していないとの判定結果を得た場合(S1001のNO)、図10に示すフローを終える。すなわち、TFの検出がないことから、TF通知部306は、デバイスへのメッセージの通知を実行せずにTFの通知処理を終える。
S1002では、TF通知部306は、TFの検出根拠が閾値THα以上であるか判定する。TFの検出根拠が閾値THα以上でないとの判定結果を得た場合(S1002のNO)、処理がS1005に移行される。他方、TFの検出が閾値THα以上であるとの判定結果を得た場合(S1002のYES)、処理がS1003に移行される。
S1003では、TF通知部306は、閾値THαを超過した回数が一定期間内で閾値THΓ以上であるか判定する。一定期間は、例えば12時間であるがこれに限定されない。閾値THΓは、例えば5であるが、これに限定されない。閾値THαを超過した回数が一定期間内で閾値THΓ以上でないとの判定結果を得た場合(S1003のNO)、処理がS1005に移行される。他方、閾値THαを超過した回数が一定期間内で閾値THΓ以上であるとの判定結果を得た場合(S1003のYES)、処理がS1004に移行される。
S1004では、TF通知部306は、利用者201によるスマートフォン211の利用を制限する処理を実行する。この処理は、例えば、娯楽用のアプリケーションの実行など電話及びメール機能以外の機能を使用不可とする処理、各アプリケーションからの通知を個別でなく1時間に1回まとめての受信に変更するなどの通知頻度を削減する処理を含むが、これに限定されない。
S1005では、TF通知部306は、利用者201が利用するスマートフォン211に対し、現在テクノフェレンスが発生している可能性が高い旨のメッセージを通知する。
以上説明した通り、本実施形態によれば、電子機器の利用者201に対する、非利用者202からのコミュニケーションの要求と、要求に対する利用者201の対応とを評価する。要求の評価結果および対応の評価結果に基づき利用者201と非利用者202とのコミュニケーションが、電子機器の利用によって阻害されている状態であるか判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
<<実施形態2>>
本実施形態では、音声情報および利用情報に加え、利用者の顔画像に関する情報を取得し、取得した情報に基づき要求に対する利用者201の対応を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
本実施形態では、音声情報および利用情報に加え、利用者の顔画像に関する情報を取得し、取得した情報に基づき要求に対する利用者201の対応を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
<検出システムの適用例>
図11は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、本実施形態の検出システムが、撮像を行う撮像装置1101を付帯したスマートフォン211に適用されているとする。なお、撮像装置1101は、例えば、スマートフォン211の操作パネル側にあるフロントカメラであるとする。
図11は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、本実施形態の検出システムが、撮像を行う撮像装置1101を付帯したスマートフォン211に適用されているとする。なお、撮像装置1101は、例えば、スマートフォン211の操作パネル側にあるフロントカメラであるとする。
スマートフォン211は、利用者201によって操作されるデバイス(電子機器)である。スマートフォン211は、利用者201がスマートフォン211を利用した状況を示す利用情報と、スマートフォン211周囲の音声に関する音声情報と取得する。さらに、スマートフォン211は、撮像装置1101が利用者201を撮像して利用者201の顔画像(静止画または動画)を取得する。
<検出システムの機能構成>
図12は、本実施形態に係る検出システム1200の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1200は、実施形態1の検出システム100が有する機能部301-306と、画像取得部1201とを有する。検出システム1200は、外部機器である撮像装置1101と接続する。なお、撮像装置1101は、検出システム1200と接続する形態に限定されず、検出システム1200の内部に含まれる形態であってもよい。
図12は、本実施形態に係る検出システム1200の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1200は、実施形態1の検出システム100が有する機能部301-306と、画像取得部1201とを有する。検出システム1200は、外部機器である撮像装置1101と接続する。なお、撮像装置1101は、検出システム1200と接続する形態に限定されず、検出システム1200の内部に含まれる形態であってもよい。
画像取得部1201は、検出システム1200と接続するスマートフォン211の撮像装置1101で撮像して得た撮像画像を取得する。取得した撮像画像は、検出システム1200の対応評価部304に提供される。
本実施形態の対応評価部304は、実施形態1と同様、音声情報および利用情報に基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について所定の対応評価項目を評価する。また、対応評価部304は、画像取得部1201にて取得した撮像画像に基づき、非利用者202から利用者201へのコミュニケーション要求に対する対応について詳細につき後述する対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。なお、本実施形態の対応評価部304は、S402にて、音声情報、利用情報および撮像画像に基づき、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出した対応評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
<対応評価結果>
図13は、検出システム1200が有する対応評価部304にて算出した対応評価結果例を示す図である。なお、図13に示す対応評価結果例について、図6に示す対応評価結果例との差分を中心に説明する。時刻1301は時刻601に、評価項目1302は評価項目602に、評価項目1303は評価項目603にそれぞれ対応する。
図13は、検出システム1200が有する対応評価部304にて算出した対応評価結果例を示す図である。なお、図13に示す対応評価結果例について、図6に示す対応評価結果例との差分を中心に説明する。時刻1301は時刻601に、評価項目1302は評価項目602に、評価項目1303は評価項目603にそれぞれ対応する。
対応評価結果1300は、時刻1301にて示される時刻毎に、デバイス利用有無に関する評価項目1302の評価結果、対応時の発言内容に関する評価項目1303の評価結果を有する。さらに、対応評価結果1300は、時刻1301にて示される時刻毎に、目線がデバイスであるかに関する評価項目1304の評価結果を有する。
目線がデバイスであるかに関する評価項目1304では、画像取得部1201にて取得した撮像画像に基づき、利用者201の目線(視線)がデバイス(スマートフォン211)の画面にあるかに関する評価結果と、この評価結果に対応した評価値を示している。すなわち、要求に対する対応時に、利用者201の視線方向がスマートフォン211であると、利用者201が非利用者202を見ていないことを示すことになる。また、要求に対する対応時に、利用者201の視線方向がスマートフォン211でないと、利用者201が非利用者202を見ている可能性があることを示すことになる。
利用者201の視線がデバイス(スマートフォン211)の画面にあるかに関し、例えば、非特許文献5に記載の技術などの公知の技術を用いることが可能である。目線がデバイスであるかに関し、撮像画像を解析して利用者201の目線がデバイスの画面にあるとの解析結果が得られると、Yesと評価することになる。他方、撮像画像を解析して利用者201の目線がデバイスの画面でないとの解析結果が得られると、Noと評価することになる。すなわち、撮像画像を解析して利用者201の視線情報を取得し、取得した視線情報に基づき、利用者201の目線がデバイスであるか評価するともいえる。なお、「Yes」の評価結果に対応する評価値は2であり、「No」の評価結果に対応する評価値は0であるとするが、これに限定されない。
なお、上述の対応評価結果1300について、時刻1301の「t0」において、評価項目1302では「有(3)」を、評価項目1303では「不適切(2)」を、評価項目1304では「Yes(2)」を示している。対応評価結果1300では、対応評価値として、3+2+2の7が求められる。
以上説明した通り、本実施形態によれば、撮像画像を解析した得た利用者201の視線情報を利用して、利用者201の目線がスマートフォン211の画面にあるかについても、要求に対する利用者201の対応の評価に用いることができる。これにより、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であるかをより高精度に判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
<<実施形態3>>
本実施形態では、音声情報に加え、利用者および非利用者の位置情報と、非利用者の顔の向きを示す情報とを取得し、取得した情報に基づき非利用者の要求を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
本実施形態では、音声情報に加え、利用者および非利用者の位置情報と、非利用者の顔の向きを示す情報とを取得し、取得した情報に基づき非利用者の要求を評価することで、より高精度にTFの検出処理を実行する態様について説明する。
<検出システムの適用例>
図14は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、撮像装置1401が、室内に設置されており、利用者201および非利用者202を撮像して、利用者201および非利用者202を含む撮像画像(静止画又は動画)を取得可能であるとする。取得した撮像画像は、不図示の通信手段を介して、スマートフォン211に送られる。本実施形態の検出システムが、スマートフォン211に適用されているとする。
図14は、本実施形態に係る検出システムの適用例を示す図である。スマートフォン211を利用する利用者201と、スマートフォン211等の電子機器を利用しない非利用者202とが同じ部屋に居て、非利用者202が利用者201に対してコミュニケーションを要求する場面であるとする。なお、ここでは、撮像装置1401が、室内に設置されており、利用者201および非利用者202を撮像して、利用者201および非利用者202を含む撮像画像(静止画又は動画)を取得可能であるとする。取得した撮像画像は、不図示の通信手段を介して、スマートフォン211に送られる。本実施形態の検出システムが、スマートフォン211に適用されているとする。
<検出システムの機能構成>
図15は、本実施形態に係る検出システム1500の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1500は、実施形態1の検出システム100が有する機能部301、302、304-306と、画像取得部1501とを有する。検出システム1500は、外部機器である撮像装置1401と接続する。撮像装置1401の方向は、撮像装置1401の姿勢に対する上下方向を軸とした回転(パン)、撮像装置1401の姿勢に対する左右方向を軸とした回転(チルト)が可能であるとする。
図15は、本実施形態に係る検出システム1500の機能構成例を示す図である。本実施形態では、実施形態1の検出システム100との差分を中心に説明する。検出システム1500は、実施形態1の検出システム100が有する機能部301、302、304-306と、画像取得部1501とを有する。検出システム1500は、外部機器である撮像装置1401と接続する。撮像装置1401の方向は、撮像装置1401の姿勢に対する上下方向を軸とした回転(パン)、撮像装置1401の姿勢に対する左右方向を軸とした回転(チルト)が可能であるとする。
画像取得部1501は、検出システム1500と接続する撮像装置1401で撮像して得た撮像画像を取得する。取得した撮像画像は、検出システム1500の要求評価部302および対応評価部304に提供される。
本実施形態の要求評価部302は、実施形態1と同様、非利用者202から利用者201へのコミュニケーションの要求を検出する。そして、要求評価部302は、要求の検出結果と、音声情報とに基づき、要求について所定の要求評価項目を評価する。また、要求評価部302は、画像取得部1501にて取得した撮像画像に基づき、非利用者202の要求について詳細につき後述する要求評価項目を評価する。そして、評価結果を基に要求評価値を求める。なお、本実施形態の要求評価部302は、S401にて、音声情報に基づき、非利用者202から利用者201へのコミュニケーションの要求を検出する。そして、要求評価部302は、要求の検出結果と音声情報と撮像画像とに基づき、要求について要求評価項目を評価して要求評価値を算出する。算出した要求評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
本実施形態の対応評価部304は、音声情報と、画像取得部1501にて取得した撮像画像とに基づき非利用者202から利用者201へのコミュニケーション要求に対する対応について対応評価項目を評価する。そして、評価結果を基に対応評価値を求める。なお、本実施形態の対応評価部304は、S402にて、音声情報および撮像画像に基づき、要求に対する利用者201の対応について対応評価項目を評価して対応評価値を算出する。算出した対応評価値は、TF検出部305に送られ、TFスコアおよびTFスコア総和の算出に用いられる。
<要求評価結果>
図16は、検出システム1500が有する要求評価部302にて算出した要求評価結果例を示す図である。なお、図16に示す要求評価結果例について、図5に示す要求評価結果例との差分を中心に説明する。時刻1601は時刻501に、評価項目1602は評価項目502に、評価項目1603は評価項目503に、評価項目1604は評価項目504にそれぞれ対応する。
図16は、検出システム1500が有する要求評価部302にて算出した要求評価結果例を示す図である。なお、図16に示す要求評価結果例について、図5に示す要求評価結果例との差分を中心に説明する。時刻1601は時刻501に、評価項目1602は評価項目502に、評価項目1603は評価項目503に、評価項目1604は評価項目504にそれぞれ対応する。
要求評価結果1600は、時刻1601にて示される時刻毎に、デバイス利用者への要求有無に関する評価項目1602の評価結果、要求時の感情(種別/強度)に関する評価項目1603の評価結果、月齢/年齢に関する評価項目1604の評価結果を有する。さらに、要求評価結果1600は、時刻1601にて示される時刻毎に、顔の向きがデバイス利用者(利用者201)であるかに関する評価項目1605の評価結果、デバイス利用者(利用者201)との距離に関する評価項目1606の評価結果を有する。
顔の向きが利用者201であるかに関する評価項目1605は、画像取得部1501にて取得した撮像画像に基づき、非利用者202の顔の向きが利用者201であるかに関する評価結果と、この評価結果に対応した評価値とを示している。
顔の向きが利用者201であるかに関し、例えば、非特許文献6に記載の技術などの公知の技術を用いることが可能である。顔の向きが利用者201であるかに関し、撮像画像を解析して非利用者202の顔の向きが利用者201であるとの解析結果が得られると、Yesと評価することになる。他方、撮像画像を解析して非利用者202の顔の向きが利用者201でないとの解析結果が得られると、Noと評価することになる。すなわち、撮像画像を解析して非利用者202の顔情報を取得し、取得した顔情報に基づき、非利用者202の顔の向きが利用者201であるか評価するともいえる。なお、「Yes」の評価結果に対応する評価値は1であり、「No」の評価結果に対応する評価値は0であるとするが、これに限定されない。
利用者201との距離に関する評価項目1606は、画像取得部1501にて取得した撮像画像に基づき、非利用者202と利用者201との距離に関する評価結果と、この評価結果に対応する評価値とを示している。
利用者201との距離に関し、例えば、非特許文献7,8に記載の技術などの公知の技術を用いることが可能である。利用者201との距離に関し、撮像画像を解析して非利用者202と利用者201との距離が所定値未満であるとの解析結果が得られると、近いと評価することになる。他方、撮像画像を解析して非利用者202と利用者201との距離が所定値未満でないとの解析結果が得られると、遠いと評価することになる。すなわち、撮像画像を解析して非利用者202と利用者201の位置情報を取得し、取得した位置情報に基づき、非利用者202と利用者201の距離が所定値未満であるか評価するともいえる。なお、「近」の評価結果に対応する評価値は1であり、「遠」の評価結果に対応する評価値は0であるとするが、これに限定されない。
なお、上述の要求評価結果1600について、時刻1601の「t0」において、評価項目1602では「有(5)」を、評価項目1603では「哀/小(1)」を、評価項目1604では「24ヶ月(1)」を示している。また、要求評価結果1600について、時刻1601の「t0」において、評価項目1605では「Yes(1)」を、評価項目1606では「近(1)」を示している。要求評価結果1600では、要求評価値として、5+1+1+1+1の9が求められる。
以上説明した通り、本実施形態によれば、撮像画像を解析して得た非利用者202の顔情報を利用して、非利用者202の顔の向きが利用者201であるかについても、要求の評価に用いることができる。また、撮像画像を解析して得た利用者201および非利用者202の位置情報を利用して、非利用者202と利用者201の距離についても、要求の評価に用いることができる。これにより、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であるかをより高精度に判定する。そして、コミュニケーションが阻害されている状態であると判定された場合に、コミュニケーションが阻害されている状態である旨を通知する。このような通知を行うことで、利用者201と非利用者202とのコミュニケーションが、電子機器の利用により阻害されている状態であることを認識することができる。
本開示の技術は、例えばシステム、装置、データ処理方法、プログラムもしくは記憶媒体等としての実施態様を取ることも可能である。具体的には複数の機器から構成されるシステムに適用してもよいし、一つの機器からなる装置に適用してもよい。
また本開示の技術は、以下の処理を実行する事によっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワークまたは各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU)がプログラムを読み出して実行する処理である。
(その他の実施形態)
上記では、TFの検出結果を、利用者201が操作するスマートフォン211に通知する態様について説明したが、通知先はこれに限定されない。例えば、非利用者202が子供であり、利用者201が非利用者202の父親である場合に、非利用者202の母親が保持するスマートフォンに通知してもよい。また、部屋にあるテレビなどの表示装置に通知してもよい。非利用者202が乳幼児であり、利用者201が非利用者202を養育する保育士である場合、当該保育士でない別の保育士が保持するスマートフォンに通知してもよい。また、主任保育士が保持するスマートフォンに通知してもよいし、保育士の職員室に設置される表示装置などに通知してもよい。
上記では、TFの検出結果を、利用者201が操作するスマートフォン211に通知する態様について説明したが、通知先はこれに限定されない。例えば、非利用者202が子供であり、利用者201が非利用者202の父親である場合に、非利用者202の母親が保持するスマートフォンに通知してもよい。また、部屋にあるテレビなどの表示装置に通知してもよい。非利用者202が乳幼児であり、利用者201が非利用者202を養育する保育士である場合、当該保育士でない別の保育士が保持するスマートフォンに通知してもよい。また、主任保育士が保持するスマートフォンに通知してもよいし、保育士の職員室に設置される表示装置などに通知してもよい。
上記では、利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されている状態を検出したときに、コミュニケーションが阻害されている状態である旨を通知する形態について説明したが、これに限定されない。利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されていない状態を検出したときに、コミュニケーションが阻害されていない状態である旨を通知する形態であってもよい。利用者201と非利用者202とのコミュニケーションが、スマートフォン211の利用により阻害されている状態であるかを検出し、検出結果に基づき、前記状態に関する情報を通知してもよい。
上記では、所定の条件を満たすときに、デバイスにメッセージを通知する通知処理について説明したが、これに限定されない。例えば、アラームで通知してもよい。また、検出回数に応じて、通知するメッセージ内容を変えたり、アラームの種類や音量を変えたりするなど、通知内容に軽重を付加するような処理を行ってもよい。また、通知回数が所定値を越えたときに、電子機器を強制終了するような処理を行ってもよい。
上記では、デバイス利用者への要求有無、要求時の感情、月齢の全ての評価値から要求評価値を算出したり、これらの評価値と、非利用者の顔の向きおよび利用者との距離の評価値とから要求評価値を算出したりする場合を説明したが、これに限定されない。要求時の感情、月齢、非利用者の顔の向き、利用者との距離のうち少なくとも1つの評価値と、デバイス利用者への要求有無の評価値とから要求評価値を算出してもよい。
また、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本実施形態の開示は、以下の構成例、方法例およびプログラム例を含む。
(構成1)
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、
前記要求に対する前記利用者の対応を評価する第2の評価手段と、
前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、
前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、
を有することを特徴とする情報処理装置。
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、
前記要求に対する前記利用者の対応を評価する第2の評価手段と、
前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、
前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、
を有することを特徴とする情報処理装置。
(構成2)
前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記音声および前記撮像画像を取得する取得手段をさらに有し、
前記第1の評価手段は、前記音声、前記撮像画像、または、前記音声および前記撮像画像を解析して得た解析結果に基づき前記要求を評価する
ことを特徴とする構成1に記載の情報処理装置。
前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記音声および前記撮像画像を取得する取得手段をさらに有し、
前記第1の評価手段は、前記音声、前記撮像画像、または、前記音声および前記撮像画像を解析して得た解析結果に基づき前記要求を評価する
ことを特徴とする構成1に記載の情報処理装置。
(構成3)
前記第1の評価手段は、前記解析で得た前記要求の有無に基づき、前記要求を評価する
ことを特徴とする構成2に記載の情報処理装置。
前記第1の評価手段は、前記解析で得た前記要求の有無に基づき、前記要求を評価する
ことを特徴とする構成2に記載の情報処理装置。
(構成4)
前記第1の評価手段は、前記解析で得た、前記要求時の前記他者の感情、前記解析で得た前記他者の年齢、前記解析で得た前記他者の顔の向き、前記解析で得た前記他者と前記利用者との距離のうち少なくとも1つと、前記要求の有無とに基づき、前記要求を評価する、ことを特徴とする構成2または3に記載の情報処理装置。
前記第1の評価手段は、前記解析で得た、前記要求時の前記他者の感情、前記解析で得た前記他者の年齢、前記解析で得た前記他者の顔の向き、前記解析で得た前記他者と前記利用者との距離のうち少なくとも1つと、前記要求の有無とに基づき、前記要求を評価する、ことを特徴とする構成2または3に記載の情報処理装置。
(構成5)
前記第1の評価手段は、前記要求を検出する検出手段を有し、
前記検出手段は、前記音声を解析して得た発言内容、前記音声を解析して得た前記他者の年齢のうち少なくとも1つを基に、前記要求を検出する
ことを特徴とする構成2から4の何れか1つに記載の情報処理装置。
前記第1の評価手段は、前記要求を検出する検出手段を有し、
前記検出手段は、前記音声を解析して得た発言内容、前記音声を解析して得た前記他者の年齢のうち少なくとも1つを基に、前記要求を検出する
ことを特徴とする構成2から4の何れか1つに記載の情報処理装置。
(構成6)
前記取得手段は、前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記電子機器の利用状況を示す利用情報、または前記音声および前記撮像画像および前記利用情報の組み合わせを取得し、
前記第2の評価手段は、前記音声、前記撮像画像、前記利用情報、または、前記音声および前記撮像画像および前記利用情報の組み合わせを解析して得た解析結果に基づき前記対応を評価する
ことを特徴とする構成2から5の何れか1つに記載の情報処理装置。
前記取得手段は、前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記電子機器の利用状況を示す利用情報、または前記音声および前記撮像画像および前記利用情報の組み合わせを取得し、
前記第2の評価手段は、前記音声、前記撮像画像、前記利用情報、または、前記音声および前記撮像画像および前記利用情報の組み合わせを解析して得た解析結果に基づき前記対応を評価する
ことを特徴とする構成2から5の何れか1つに記載の情報処理装置。
(構成7)
前記第2の評価手段は、前記解析で得た、前記利用者による前記電子機器の利用の有無、前記解析で得た、前記利用者による対応時の発言内容、および前記解析で得た、前記利用者の視線方向のうち少なくとも1つに基づき、前記対応を評価する
ことを特徴とする構成6に記載の情報処理装置。
前記第2の評価手段は、前記解析で得た、前記利用者による前記電子機器の利用の有無、前記解析で得た、前記利用者による対応時の発言内容、および前記解析で得た、前記利用者の視線方向のうち少なくとも1つに基づき、前記対応を評価する
ことを特徴とする構成6に記載の情報処理装置。
(構成8)
前記判定手段は、現在の前記第1の評価結果および前記第2の評価結果に基づく現在の評価値と、当該現在の評価値を含む過去所定回数分の評価値の総和とに基づき、前記コミュニケーションが阻害されている状態であるか判定する
ことを特徴とする構成1から7の何れか1つに記載の情報処理装置。
前記判定手段は、現在の前記第1の評価結果および前記第2の評価結果に基づく現在の評価値と、当該現在の評価値を含む過去所定回数分の評価値の総和とに基づき、前記コミュニケーションが阻害されている状態であるか判定する
ことを特徴とする構成1から7の何れか1つに記載の情報処理装置。
(構成9)
前記利用者は養育者であり、前記他者は当該養育者が養育する子供である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
前記利用者は養育者であり、前記他者は当該養育者が養育する子供である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
(構成10)
前記利用者は子供であり、前記他者は当該子供を養育する養育者である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
前記利用者は子供であり、前記他者は当該子供を養育する養育者である
ことを特徴とする構成1から8の何れか1つに記載の情報処理装置。
(方法1)
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価工程と、
前記要求に対する前記利用者の対応を評価する第2の評価工程と、
前記第1の評価工程による第1の評価結果と、前記第2の評価工程による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定工程と、
前記判定工程にて前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知工程と、
を含むことを特徴とする情報処理方法。
電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価工程と、
前記要求に対する前記利用者の対応を評価する第2の評価工程と、
前記第1の評価工程による第1の評価結果と、前記第2の評価工程による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定工程と、
前記判定工程にて前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知工程と、
を含むことを特徴とする情報処理方法。
(プログラム1)
コンピュータを、構成1から10の何れか1つに記載の情報処理装置の手段として機能させるためのプログラム。
コンピュータを、構成1から10の何れか1つに記載の情報処理装置の手段として機能させるためのプログラム。
Claims (12)
- 電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価手段と、
前記要求に対する前記利用者の対応を評価する第2の評価手段と、
前記第1の評価手段による第1の評価結果と、前記第2の評価手段による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定手段と、
前記判定手段により前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知手段と、
を有することを特徴とする情報処理装置。 - 前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記音声および前記撮像画像を取得する取得手段をさらに有し、
前記第1の評価手段は、前記音声、前記撮像画像、または、前記音声および前記撮像画像を解析して得た解析結果に基づき前記要求を評価する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記第1の評価手段は、前記解析で得た前記要求の有無に基づき、前記要求を評価する
ことを特徴とする請求項2に記載の情報処理装置。 - 前記第1の評価手段は、前記解析で得た、前記要求時の前記他者の感情、前記解析で得た前記他者の年齢、前記解析で得た前記他者の顔の向き、前記解析で得た前記他者と前記利用者との距離のうち少なくとも1つと、前記要求の有無とに基づき、前記要求を評価する、ことを特徴とする請求項3に記載の情報処理装置。
- 前記第1の評価手段は、前記要求を検出する検出手段を有し、
前記検出手段は、前記音声を解析して得た発言内容、前記音声を解析して得た前記他者の年齢のうち少なくとも1つを基に、前記要求を検出する
ことを特徴とする請求項2に記載の情報処理装置。 - 前記取得手段は、前記利用者および前記他者の音声、または前記利用者および前記他者を含む撮像画像、または前記電子機器の利用状況を示す利用情報、または前記音声および前記撮像画像および前記利用情報の組み合わせを取得し、
前記第2の評価手段は、前記音声、前記撮像画像、前記利用情報、または、前記音声および前記撮像画像および前記利用情報の組み合わせを解析して得た解析結果に基づき前記対応を評価する
ことを特徴とする請求項2に記載の情報処理装置。 - 前記第2の評価手段は、前記解析で得た、前記利用者による前記電子機器の利用の有無、前記解析で得た、前記利用者による対応時の発言内容、および前記解析で得た、前記利用者の視線方向のうち少なくとも1つに基づき、前記対応を評価する
ことを特徴とする請求項6に記載の情報処理装置。 - 前記判定手段は、現在の前記第1の評価結果および前記第2の評価結果に基づく現在の評価値と、当該現在の評価値を含む過去所定回数分の評価値の総和とに基づき、前記コミュニケーションが阻害されている状態であるか判定する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記利用者は養育者であり、前記他者は当該養育者が養育する子供である
ことを特徴とする請求項1に記載の情報処理装置。 - 前記利用者は子供であり、前記他者は当該子供を養育する養育者である
ことを特徴とする請求項1に記載の情報処理装置。 - 電子機器を利用する利用者に対する他者からのコミュニケーションの要求を評価する第1の評価工程と、
前記要求に対する前記利用者の対応を評価する第2の評価工程と、
前記第1の評価工程による第1の評価結果と、前記第2の評価工程による第2の評価結果とに基づき、前記利用者と前記他者とのコミュニケーションが、前記電子機器の利用により阻害されている状態であるかを判定する判定工程と、
前記判定工程にて前記コミュニケーションが阻害されている状態であると判定された場合に、前記コミュニケーションが阻害されている状態である旨を通知する通知工程と、
を含むことを特徴とする情報処理方法。 - コンピュータを、請求項1に記載の情報処理装置の手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022094635A JP2023180943A (ja) | 2022-06-10 | 2022-06-10 | 情報処理装置、情報処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022094635A JP2023180943A (ja) | 2022-06-10 | 2022-06-10 | 情報処理装置、情報処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023180943A true JP2023180943A (ja) | 2023-12-21 |
Family
ID=89307141
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022094635A Pending JP2023180943A (ja) | 2022-06-10 | 2022-06-10 | 情報処理装置、情報処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023180943A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220335928A1 (en) * | 2019-08-19 | 2022-10-20 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
-
2022
- 2022-06-10 JP JP2022094635A patent/JP2023180943A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220335928A1 (en) * | 2019-08-19 | 2022-10-20 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
US11996086B2 (en) * | 2019-08-19 | 2024-05-28 | Nippon Telegraph And Telephone Corporation | Estimation device, estimation method, and estimation program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3751823B1 (en) | Generating iot-based notification(s) and provisioning of command(s) to cause automatic rendering of the iot-based notification(s) by automated assistant client(s) of client device(s) | |
CN107408028B (zh) | 信息处理设备、控制方法以及程序 | |
US9781106B1 (en) | Method for modeling user possession of mobile device for user authentication framework | |
KR102599607B1 (ko) | 자동화된 어시스턴트를 호출하기 위한 다이내믹 및/또는 컨텍스트 특정 핫워드 | |
KR20160127117A (ko) | 개인 존재와 연관된 동작 수행 | |
US10403272B1 (en) | Facilitating participation in a virtual meeting using an intelligent assistant | |
JP6292295B2 (ja) | 連携システム、装置、方法、および記録媒体 | |
KR20070029794A (ko) | 유저와 시스템 사이에 통신을 하기 위한 방법 및 시스템 | |
JP2017144521A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2023180943A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP6973380B2 (ja) | 情報処理装置、および情報処理方法 | |
KR20200050695A (ko) | 인터폰 | |
JP2019208167A (ja) | テレプレゼンスシステム | |
US11936718B2 (en) | Information processing device and information processing method | |
US11157232B2 (en) | Interaction context-based control of output volume level | |
NL2025686B1 (en) | Dynamic modification of functionality of a real-time communications session | |
CN116210201A (zh) | 基于身份预测置信度的用户认证 |