JP2019211966A - 制御装置、対話装置、制御方法、およびプログラム - Google Patents

Abstract

【課題】状況に応じて秘匿情報の出力制御を行う利便性に優れた対話装置を提供する。【解決手段】対話装置（１）を制御する制御装置（制御部６０）は、ユーザが入力した内容に対する応答内容の候補として選択した入出力履歴（２１）に秘匿情報が含まれるか否かを判定する秘匿情報判定部（６３）と、前記秘匿情報を出力してよい状況か否かを判定する状況判定部（６４）と、前記状況判定部が前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する応答内容決定部（６５）と、を備えている。【選択図】図１

Description

本発明は応答内容の出力制御を行う対話装置に関する。

ユーザとの間で対話を行う対話装置が従来技術として知られている。このような対話装置において、入力内容に対して適切な応答が行えるようにする技術も知られている。例えば、特許文献１には音声認識された入力文や応答文の対話履歴を用いて応答文を取得する対話装置が開示されている。

特開２００６−０３９１２０号公報（２００６年２月９日公開）

しかしながら、特許文献１に記載の対話装置は、他人に対して秘匿することが好ましい情報である秘匿情報に関する対話履歴が存在していた場合、意図しないタイミングで該秘匿情報が応答として出力されるおそれがある。

本発明の一態様は、前記の問題に鑑みてなされたものであり、状況に応じて秘匿情報の出力制御を行う利便性に優れた対話装置を提供することを目的とする。

前記の課題を解決するために、本発明の一態様に係る制御装置は、ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置を制御する制御装置であって、前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定部と、前記秘匿情報を出力してよい状況か否かを判定する状況判定部と、前記応答内容を決定する応答内容決定部と、を備えており、前記応答内容決定部は、前記状況判定部が前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。

本発明の一態様に係る対話装置は、ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置であって、該対話装置は少なくとも１つの入力装置と、少なくとも１つの出力装置と、少なくとも１つの記憶装置と、少なくとも１つの制御装置とを備えており、前記制御装置は、前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定処理と、前記秘匿情報を出力してよい状況か否かを判定する状況判定処理と、前記応答内容を決定する応答内容決定処理と、を含み、前記応答内容決定処理は、前記状況判定処理にて前記秘匿情報を出力してよい状況ではないと判定された場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。

本発明の一態様に係る制御方法は、ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置を制御する制御方法であって、前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定工程と、前記秘匿情報を出力してよい状況か否かを判定する状況判定工程と、前記応答内容を決定する応答内容決定工程と、を備えており、前記応答内容決定工程では、前記状況判定工程にて前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。

本発明の一態様によれば、状況に応じて秘匿情報の出力制御を行う利便性に優れた対話装置を提供することができるという効果を奏する。

本発明の実施形態１に係る対話装置の要部構成の一例を示すブロック図である。 本発明の実施形態１に係る対話装置が周囲の状況に基づいて応答内容を決定する流れの一例を示す模式図であり、（ａ）は過去の対話を示し、（ｂ）は（ａ）の後に、周囲に他の人がいる状況で秘匿情報を含む履歴が応答候補に選択された場合の対話装置の動作を示し、（ｃ）は（ａ）の後に、周囲に他の人がいない状況で秘匿情報を含む履歴が応答候補に選択された場合の対話装置の動作を示している。 図２の各図に対応する入出力履歴の状態を示しており、（ａ）は図２の（ａ）の直後の入出力履歴の内容を示し、（ｂ）は図２の（ｂ）の直後の入出力履歴の内容を示し、（ｃ）は図２の（ｃ）の直後の入出力履歴の内容を示している。 本発明の実施形態１に係る対話装置が実行する処理の一例を示すフローチャートである。

〔実施形態１〕
以下、本発明の一実施形態について、図１〜図４を用いて詳細に説明する。

（対話装置の構成）
本実施形態に係る対話装置１の構成について、図１を用いて説明する。図１は、対話装置１の要部構成の一例を示すブロック図である。

対話装置１は、ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力することができる。より具体的には、対話装置１はユーザから入力を受け付けると、該入力に対する応答候補を過去の入出力履歴から取得する。対話装置１は取得した応答候補の中に秘匿情報が含まれていない場合は、該応答候補に基づいた応答内容を出力する。一方、秘匿情報が含まれている場合、対話装置１は周囲の状況が秘匿情報を出力してよい状況であるか否かを判定し、出力してよい状況であれば応答候補に基づいた応答内容を出力する。出力してはいけない状況であれば秘匿情報を含まない代替応答を応答内容として出力する。ここで、秘匿情報とはユーザの個人情報といった、不特定多数に知られると問題がある情報である。

対話装置１は、入力部１０、記憶部２０、ＧＰＳ受信部３０、計時部４０、出力部５０、および制御部６０を備えており、記憶部２０は、入出力履歴２１、優先度順ルールテーブル２２、およびシナリオ情報２３を備えている。制御部６０は、音声認識部６１、応答候補取得部６２、秘匿情報判定部６３、状況判定部６４、および応答内容決定部６５を備えている。

入力部１０は、例えばユーザの音声入力を受け付けるマイクであり、受け付けた音声を音声データとして音声認識部６１へ送信する入力装置として機能する。入力部１０は、ユーザの音声入力を受け付けることが可能であればどのような構成であってもよく、例えばマイクに加えてボタン等のインターフェースが設けられてもよい。

記憶部２０は、対話装置１にて扱う各種情報を格納する記憶装置として機能する。記憶部２０は、例えば秘匿情報として扱われるべき情報を管理する、図示しない辞書情報等をさらに備えていてもよい。

入出力履歴２１は、ユーザが対話装置１に対して入力した音声の履歴、および対話装置１がユーザに対して出力した応答内容の履歴を格納している。入出力履歴２１は、制御部６０によって新たな履歴が登録され、応答候補取得部６２によって読み出される。入出力履歴２１の具体例については図３の各図を用いて後述する。

優先度順ルールテーブル２２は、状況判定部６４が対話装置１の周囲の状況が秘匿情報を出力してよい状況であるか否かを判定するために参照する参照情報である。以下に参照情報の例を３つほど挙げるが、これに限定されないことは言うまでもない。１つ目は、入力部１０が受け付けた音声にユーザ以外の人の声が含まれる場合は秘匿情報を出力してはいけない状況とするというルールである。２つ目は、ＧＰＳ受信部３０が受信した対話装置１の現在のＧＰＳ情報から該対話装置１の位置がユーザの自宅といったプライベート空間と一致する場合は秘匿情報を出力してよい状況とするルールである。３つ目は、計時部４０が取得した現在日時が夜間であり自宅にいると考えられる場合は秘匿情報を出力してよい状況とするルールである。

シナリオ情報２３は、入力内容に応じて出力すべき応答内容が定義された参照情報である。シナリオ情報２３は、応答候補取得部６２にて入力内容に対する応答候補が取得できなかった場合、および状況判定部６４にて秘匿情報を出力してはいけない状況であると判定された場合に、応答内容決定部６５によって参照される。

ＧＰＳ受信部３０は、制御部６０の指示によって対話装置１の現在位置に関する情報を受信し、状況判定部６４へ送信する。ＧＰＳ受信部３０は、対話装置１の現在位置に関する情報を状況判定部６４へ送信することが可能な構成であれば、どのような構成であってもよい。ＧＰＳ受信部３０は、ＧＰＳ衛星からＧＰＳ情報を受信する構成であってもよい。ＧＰＳ受信部３０は、例えばＷｉ−Ｆｉ（登録商標）環境に接続することが可能な構成であって、ユーザが自宅に設定したＷｉ−Ｆｉ環境に接続されたことを検知すると対話装置１が該ユーザの自宅にいることを示す情報を状況判定部６４へ送信する構成であってもよい。

計時部４０は、制御部６０の指示によって現在日時の情報を取得し、状況判定部６４へ送信する。

出力部５０は、入力部１０が受け付けたユーザの音声の内容に対応する応答内容を出力する出力装置として機能する。出力部５０は、応答内容を音声にて出力するスピーカーを含んでいればよく、例えば音声と組み合わせて画像等を出力するディスプレイ等を含んでいてもよい。

制御部６０は、対話装置１の各部を統括して制御する制御装置として機能する。制御部６０は、ユーザが入力した内容および対話装置１が出力部５０から出力した応答内容に秘匿情報が含まれていた場合は、秘匿情報が含まれていることを示す情報を付加してこれらの内容を入出力履歴２１に登録する。

音声認識部６１は、入力部１０から音声データを受信すると、該音声データについて音声認識を行ってユーザの発話内容を示すテキストデータを生成する。音声認識部６１が音声認識を行うために用いる方法は特に限定されず、従来あるいずれの方法を用いて音声認識を行ってもよい。音声認識部６１は、生成したテキストデータを応答候補取得部６２へ送信する。

応答候補取得部６２は、入力内容に対する応答内容の候補を入出力履歴２１から取得する。具体的には、応答候補取得部６２は音声認識部６１から受信したテキストデータに対する応答内容の候補を、入出力履歴２１の中から選択する。適当な候補が見つからなかった場合、応答候補取得部６２はその旨を応答内容決定部６５へ送信する。一方、適当な候補が見つかった場合、状況判定部６４へ見つかった候補を送信する。

秘匿情報判定部６３は、応答候補取得部６２から応答内容の候補を入出力履歴２１の中から選択すると、制御部６０の指示にしたがって選択された入出力履歴が秘匿情報を含むか否かを判定する。また、秘匿情報判定部６３は、応答内容決定部６５が出力部５０から応答内容を出力した後、制御部６０の指示にたがって該応答内容が秘匿情報を含むか否かを判定する。秘匿情報判定部６３は、例えば記憶部２０が備える図示しない辞書情報等を参照して判定を行ってもよい。秘匿情報判定部６３は、判定結果を制御部６０へ送信する。

状況判定部６４は、応答候補取得部６２から応答内容の候補および該候補が秘匿情報を含むか否かの判定結果を受信すると、対話装置１の周囲の状況が秘匿情報を含む応答内容を出力してよい状況であるか否かを判定し、判定結果を応答内容決定部６５へ送信する。具体的には、状況判定部６４はＧＰＳ受信部３０が受信した対話装置１の位置情報、入力部１０が受け付けた音声に含まれる周囲の環境音、および計時部４０から取得した現在の日時情報の少なくともいずれかに基づいて、優先度順ルールテーブル２２において秘匿情報を出力してよい状況であるとみなす条件を満たしているかを判定することにより、秘匿情報を出力してよい状況か否かを判定する。

応答内容決定部６５は、入力部１０が受け付けたユーザの入力内容に対する応答として出力する応答内容を決定し、出力部５０から出力する。具体的には、入力内容に対する応答内容の適切な候補を応答候補取得部６２が見つけられなかった場合、応答内容決定部６５はシナリオ情報２３を参照して応答内容を決定し、出力部５０から出力する。応答候補取得部６２が適切な候補を見つけており、秘匿情報判定部６３が該候補に秘匿情報が含まれていないと判定した、または秘匿情報判定部６３が該候補に秘匿情報が含まれていると判定し、かつ状況判定部６４が秘匿情報を出力してよい状況であると判定していた場合、応答内容決定部６５は該候補に基づいて応答内容を決定し、出力部５０から出力する。応答候補取得部６２が適切な候補を見つけており、秘匿情報判定部６３が該候補に秘匿情報が含まれていると判定し、かつ状況判定部６４が秘匿情報を出力してはいけない状況であると判定していた場合、応答内容決定部６５はシナリオ情報２３を参照して代替応答を応答内容をとして決定し、出力部５０から出力する。

（周囲の状況に基づいて応答内容を決定する具体例）
本実施形態に係る対話装置１が周囲の状況に基づいて応答内容を決定する具体例について、図２および図３の各図を用いて説明する。図２は、対話装置１が周囲の状況に基づいて応答内容を決定する流れの一例を示す模式図であり、図２の（ａ）は過去の対話を示し、図２の（ｂ）は（ａ）の後に、周囲に他の人がいる状況で秘匿情報を含む特定の入出力履歴が応答候補に選択された場合の対話装置１の動作を示している。図２の（ｃ）は（ａ）の後に、周囲に他の人がいない状況で秘匿情報を含む特定の入出力履歴が応答候補に選択された場合の対話装置１の動作を示している。図３は、図２の各図に対応する入出力履歴２１の状態を示しており、図３の（ａ）は図２の（ａ）の直後の入出力履歴２１の内容を示している。図３の（ｂ）は図２の（ｂ）の直後の入出力履歴２１の内容を示しており、図３の（ｃ）は図２の（ｃ）の直後の入出力履歴２１の内容を示している。

図２の各図において、ａ−１〜４、ｂ−１〜４、およびｃ−１〜４は、対話における処理の順番を示している。図３の各図において、入出力履歴２１は「番号」、「日時」、「話者」、「発話文」、および「秘匿情報フラグ」という５つの列を備えている。「番号」列は履歴が登録された順番を示しており、「日時」列はそのレコードが登録された日時を示している。「話者」列は「発話文」列に記載の内容を発話したのがユーザと対話装置１のどちらであるかを示しており、「発話文」列は実際に発話した内容を示している。「秘匿情報フラグ」は、「発話文」列に記載の内容が秘匿情報を含むか否かを示している。

図３の（ａ）によれば、例えば「番号」列が「３」であるレコードにおいて「発話文」列が示す発話の内容「心療内科にうつ病カウンセリングを受けに行く」は、秘匿情報を含んでいることを示している。なお、以下の説明では「心療内科」および「うつ病」が秘匿情報であり、これらの文字列を「発話文」列に含むレコードは、「秘匿情報フラグ」が「あり」として登録されている。また、説明を簡略化するために状況判定部６４は周囲にユーザの他の人がいる場合に秘匿情報を出力してよい状況であると判定し、他の人がいない場合に秘匿情報を出力してよい状況ではないと判定するものとする。

図２の（ａ）および図３の（ａ）を用いて、ユーザと対話装置１との間で行われた過去の対話について説明する。なお、図２の（ａ）に示す過去の対話を開始した時点では、入出力履歴２１には履歴が存在しないものとする。

まず、ユーザがａ−１：「今週末は大変だ」を発話すると、対話装置１は入力部１０にて該発話を受け付けた後、音声認識部６１によって該発話に対応するテキストデータ「今週末は大変だ」を生成した後、該発話に関する履歴を入出力履歴２１に登録する。具体的には、図３の（ａ）にて「番号」列が「１」であるレコードとして履歴を登録する。

次に、対話装置１は入力内容であるａ−１：「今週末は大変だ」に対する応答内容としてａ−２：「今週末は何かあるんですか」を出力する。対話装置１は、はじめに応答内容の候補を入出力履歴２１の中から選択する。いま、入出力履歴２１には「番号」列が「１」のレコードしか存在しないため、対話装置１は応答内容の候補が見つからなかったと判定し、シナリオ情報２３に基づいて「今週末は何かあるんですか」を応答内容に決定する。対話装置１は、ａ−２の出力を行った後、図３の（ａ）にて「番号」列が「２」であるレコードを登録する。

ａ−２の応答を受けてユーザがａ−３：「心療内科にうつ病カウンセリングを受けに行く」を発話すると、対話装置１はａ−１の場合と同様にしてａ−４：「大変ですね」を応答内容として決定して出力する。対話装置１はユーザの発話および自身の応答に合わせて、図３の（ａ）にて「番号」列が「３」であるレコードと「４」であるレコードをそれぞれ登録する。ここで、ａ−３：「心療内科にうつ病カウンセリングを受けに行く」には秘匿情報である「心療内科」および「うつ病」が含まれているので、対話装置１は「番号」列が「３」であるレコードの「秘匿情報フラグ」を「あり」として登録する。

このようにして、対話装置１はユーザの発話に対して応答内容について、適切な応答候補がない場合はシナリオ情報２３に基づいて決定し、出力することができる。また、対話装置１はユーザの発話による入力内容および自身の出力した応答内容について、入出力履歴２１に登録することができる。

図２の（ｂ）および図３の（ｂ）を用いて、図２の（ａ）に示した過去の対話を行った後に、周囲に他の人がいる状況で秘匿情報を含む特定の入出力履歴が応答候補に選択された場合の対話装置１の動作について説明する。

まず、ユーザがｂ−１：「今週末、何かあったかな」を発話すると、対話装置１は該発話に関する入力履歴を図３の（ｂ）にて「番号」列が「５−１」であるレコードとして登録する。そして、対話装置１はｂ−１の入力内容に対する応答内容の候補として、入出力履歴２１において「話者」列が「対話装置」であり、かつ「発話文」に「今週末」を含むレコードの次に登録された、「話者」列が「ユーザ」であるレコードを選択する。すなわち、対話装置１は「番号」列が「３」であり、秘匿情報「心療内科」および「うつ病」を「発話文」列に含むレコードを応答内容の候補として選択する（ｂ−２）。

ｂ−２の後、対話装置１は該対話装置１の周囲の状況が秘匿情報を出力してよい状況であるか否かを判定する。図２の（ｂ）ではユーザの周囲に他の人がいるので、対話装置１は周囲の状況が秘匿情報を出力してよい状況ではないと判定する。そして、対話装置１はシナリオ情報２３を参照して代替応答「出かけるって言ってましたよ」を応答内容として決定する（ｂ−３）。なお、代替応答は応答内容の候補に応じたものであってもよい。すなわち、代替応答「出かけるって言ってましたよ」は、応答内容の候補「心療内科にうつ病カウンセリングを受けに行く」が外出を示す内容であることから決定されてもよい。

ｂ−３の後、対話装置１は応答内容として決定した代替応答「出かけるって言ってましたよ」を出力し、該出力の履歴を入出力履歴２１に、「番号」列が「６−１」のレコードとして登録する（ｂ−４）。

このようにして、対話装置１は入力内容に対する応答内容の候補をとして秘匿情報を含む特定の入出力履歴を入出力履歴２１から選択し、かつ周囲の状況が秘匿情報を出力してよい状況ではない場合は、代替応答を応答内容に決定して出力することができる。これにより、秘匿情報が漏洩することを抑制することができる。

図２の（ｃ）および図３の（ｃ）を用いて、図２の（ａ）に示した過去の対話を行った後に、周囲に他の人がいない状況で秘匿情報を含む特定の入出力履歴が応答候補に選択された場合の対話装置１の動作について説明する。

まず、ユーザがｃ−１：「今週末、何かあったかな」を発話すると、対話装置１は図２の（ｂ）と同様にして該発話に関する入力履歴を図３の（ｃ）にて「番号」列が「５−２」であるレコードとして登録する。さらに、対話装置１は「番号」列が「３」であり、秘匿情報「心療内科」および「うつ病」を「発話文」列に含むレコードを応答内容の候補として選択する（ｃ−２）。

ｃ−２の後、対話装置１は該対話装置１の周囲の状況が秘匿情報を出力してよい状況であるか否かを判定する。図２の（ｃ）ではユーザの周囲に他の人がいないので、対話装置１は周囲の状況が秘匿情報を出力してよい状況であると判定する。そして、対話装置１は応答内容の候補を応答内容として決定する（ｃ−３）。

ｃ−３の後、対話装置１は応答内容として決定した応答内容の候補「心療内科にうつ病カウンセリングを受けに行く」に基づいて応答内容「心療内科にうつ病カウンセリングを受けに行くって言ってましたよ」を生成する。対話装置１は生成した応答内容を出力し、該出力の履歴を入出力履歴２１に、「番号」列が「６−１」のレコードとして登録する（ｃ４）。

このようにして、対話装置１は入力内容に対する応答内容の候補として秘匿情報を含む特定の入出力履歴を入出力履歴２１から選択し、かつ周囲の状況が秘匿情報を出力してよい状況である場合は、該候補に基づいて応答内容を生成し、出力することができる。これにより、秘匿情報を出力してよい状況であれば秘匿情報をユーザに提示することができる。

（処理の流れ）
本実施形態に係る対話装置１が実行する処理の流れについて、図４を用いて説明する。図４は、対話装置１が実行する処理の流れの一例を示すフローチャートである。

はじめに、対話装置１はユーザから発話による音声の入力を入力部１０にて受け付けると、該音声の音声データについて音声認識部６１にて音声認識を行ってテキストデータを生成する（Ｓ１）。その後、秘匿情報判定部６３は、入力内容であるＳ１にて生成したテキストデータに秘匿情報が含まれるか否かを判定する（Ｓ２：秘匿情報判定処理）。秘匿情報が含まれると判定した場合（Ｓ２でＹＥＳ）、制御部６０は秘匿情報フラグ「あり」を付したレコードを入出力履歴２１に登録する（Ｓ３）。その後、処理はＳ５へ進む。一方、秘匿情報が含まれないと判定した場合（Ｓ２でＮＯ）、制御部６０は秘匿情報フラグ「なし」を付したレコードを入出力履歴２１に登録する（Ｓ４）。その後、処理はＳ５へ進む。

Ｓ５において、応答候補取得部６２は入力内容に対する応答内容の候補を入出力履歴２１から取得する（Ｓ５）。さらに応答候補取得部６２は、Ｓ５で取得できた応答内容の候補が存在するか否かを判定する（Ｓ６）。候補が存在しないと判定した場合（Ｓ６でＮＯ）、応答候補取得部６２はその旨を応答内容決定部６５へ送信する。そして応答内容決定部６５はシナリオ情報２３を用いて入力内容に対する応答内容を決定する（Ｓ７：応答内容決定処理）。その後、処理はＳ１３へ進む。

Ｓ６において応答内容の候補が存在すると判定した場合（Ｓ６でＹＥＳ）、応答候補取得部６２はさらに、応答内容の候補が秘匿情報を含むか否かを判定する（Ｓ８）。秘匿情報を含むと判定した場合（Ｓ８でＹＥＳ）、状況判定部６４はＧＰＳ受信部３０等を用いて周囲の状況に関する情報を取得する（Ｓ９）。その後、状況判定部６４は周囲の状況が秘匿情報を出力してよい状況であるか否かを判定する（Ｓ１０：状況判定処理）。秘匿情報を出力してよい状況ではないと判定した場合（Ｓ１０でＮＯ）、状況判定部６４は判定結果を応答内容決定部６５へ送信する。応答内容決定部６５は、受信した判定結果に基づいてシナリオ情報２３を用いて代替応答を生成し、応答内容に決定する（Ｓ１１：応答内容決定処理）。その後、処理はＳ１３へ進む。

一方、Ｓ８において応答候補取得部６２が秘匿情報を含まないと判定した場合（Ｓ８でＮＯ）、またはＳ１０において状況判定部６４が秘匿情報を出力してよい状況であると判定した場合（Ｓ１０でＹＥＳ）、応答内容決定部６５はＳ５で取得した応答候補を用いて応答内容を決定する（Ｓ１２：応答内容決定処理）。その後、処理はＳ１３へ進む。

Ｓ１３において、応答内容決定部６５はＳ７、Ｓ１１、およびＳ１２のいずれかで決定された応答内容について、出力部５０から出力する（Ｓ１３）。その後、制御部６０は秘匿情報判定部６３を用いてＳ１３で出力した応答内容に秘匿情報が含まれるか否かを判定する（Ｓ１４：秘匿情報判定処理）。秘匿情報が含まれると判定した場合（Ｓ１４でＹＥＳ）、制御部６０は秘匿情報フラグ「あり」を付したレコードを入出力履歴２１に登録した後（Ｓ１５）、一連の処理を終了する。一方、秘匿情報が含まれないと判定した場合（Ｓ１５でＮＯ）、制御部６０は秘匿情報フラグ「なし」を付したレコードを入出力履歴２１に登録した後（Ｓ１６）、一連の処理を終了する。

以上の処理によって、本実施形態に係る対話装置１はユーザと対話する際、過去の入出力履歴に基づいて応答することができる。対話装置１はさらに、応答内容の候補として秘匿情報が含まれており、該秘匿情報を出力してよい状況ではない場合、該秘匿情報を含まない代替応答を用いて応答することができる。これにより、例えば対話装置１の周囲にユーザ以外の他人がおり、該他人に該ユーザの個人情報等の秘匿情報を聞かせたくない場合は、代替応答を出力させることができる。したがって、状況に応じて秘匿情報の出力制御を行う利便性に優れた対話装置を提供することができるという効果を奏する。

なお、図２の（ｂ）を用いた説明で用いた代替応答「出かけるって言ってましたよ」は、秘匿情報を含む応答内容の候補「心療内科にうつ病カウンセリングを受けに行く」に応じた内容であったが、代替応答はどのような内容であってもよい。例えば、対話装置１は代替応答として「今話してもいいですか」といった、入出力履歴２１の内容を含まない発話文を出力を行ってもよい。

〔変形例〕
前記実施形態１において、対話装置１は秘匿情報をしてよい状況ではない場合、該秘匿情報を含まない代替応答を用いて応答する構成であった。しかしながら、対話装置１の出力部５０がスピーカーとディスプレイの組み合わせといった複数の出力方式を含む構成であった場合に、例えば対話装置１はスピーカーから代替応答を出力し、ディスプレイには秘匿情報を含む応答内容をそれぞれ出力してもよい。すなわち、応答内容決定部６５は対話装置１が出力部５０として複数の要素を備えている場合に、要素ごとに異なる応答内容を決定してもよい。具体的には、応答内容決定部６５はスピーカーに対する応答内容として代替応答を決定し、ディスプレイに対する応答内容として秘匿情報を含む応答内容を別箇に決定してもよい。このとき、対話装置１は図示しない駆動部を用いてユーザのみが確認できる向きにディスプレイを配置することが好ましい。

〔ソフトウェアによる実現例〕
対話装置１の制御ブロック（特に秘匿情報判定部６３、状況判定部６４、および応答内容決定部６５）は、集積回路（ＩＣチップ）等に形成された論理回路（ハードウェア）によって実現してもよいし、ソフトウェアによって実現してもよい。

後者の場合、対話装置１は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも１つのプロセッサ（制御装置）を備えていると共に、前記プログラムを記憶したコンピュータ読み取り可能な少なくとも１つの記録媒体を備えている。そして、前記コンピュータにおいて、前記プロセッサが前記プログラムを前記記録媒体から読み取って実行することにより、本発明の目的が達成される。前記プロセッサとしては、例えばＣＰＵ（Central Processing Unit）を用いることができる。前記記録媒体としては、「一時的でない有形の媒体」、例えば、ＲＯＭ（Read Only Memory）等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、前記プログラムを展開するＲＡＭ（Random Access Memory）などをさらに備えていてもよい。また、前記プログラムは、該プログラムを伝送可能な任意の伝送媒体（通信ネットワークや放送波等）を介して前記コンピュータに供給されてもよい。なお、本発明の一態様は、前記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。

〔まとめ〕
本発明の態様１に係る制御装置（制御部６０）は、ユーザが入力した内容に対し、過去の入出力履歴（２１）に基づいて生成した応答内容を出力する対話装置（１）を制御する制御装置であって、前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定部（６３）と、前記秘匿情報を出力してよい状況か否かを判定する状況判定部（６４）と、前記応答内容を決定する応答内容決定部（６５）と、を備えており、前記応答内容決定部は、前記状況判定部が前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。

前記の構成によれば、対話装置はユーザと対話する際、過去の入出力履歴に基づいて応答することができる。対話装置はさらに、応答内容の候補として秘匿情報が含まれており、該秘匿情報を出力してよい状況ではない場合、該秘匿情報を含まない代替応答を用いて応答することができる。これにより、例えば対話装置の周囲にユーザ以外の他人がおり、該他人に該ユーザの個人情報等の秘匿情報を聞かせたくない場合は、代替応答を出力させることができる。したがって、状況に応じて秘匿情報の出力制御を行う利便性に優れた対話装置を提供することができるという効果を奏する。

本発明の態様２に係る制御装置（制御部６０）は、前記態様１において、前記状況判定部（６４）は、前記対話装置（１）の位置、周囲の環境音、および現在の日時の少なくともいずれかに基づいて前記秘匿情報を出力してよい状況か否かを判定する、構成としてもよい。

前記の構成によれば、対話装置は自身の位置情報等に基づいて秘匿情報を出力してよい状況か否かを判定することができる。これにより、例えば位置情報等から対話装置がユーザの自宅内にいると判定した場合、該対話装置は秘匿情報を出力してよい状況であると判定して該秘匿情報を含む応答内容を出力することができる。

本発明の態様３に係る制御装置（制御部６０）は、前記態様１または２において、前記代替応答は、前記入出力履歴（２１）の内容を含まない、構成としてもよい。

前記の構成によれば、対話装置は、秘匿情報を出力してよい状況ではない場合に入出力履歴の内容を含まない代替応答を出力することができる。これにより、例えば入出力履歴の内容に限定されない、自然な応答内容を出力することができる。

本発明の態様４に係る制御装置（制御部６０）は、前記態様１から３のいずれかにおいて、前記ユーザが入力した内容および前記対話装置（１）が出力した応答内容に前記秘匿情報が含まれていた場合は、秘匿情報が含まれていることを示す情報を付加し、これらの内容を前記入出力履歴（２１）として登録する、構成としてもよい。

前記の構成によれば、対話装置は秘匿情報が含まれる入出力履歴について、秘匿情報が含まれていることを示す情報を付加して登録することができる。これにより、例えば応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを確実に判定することができる。

本発明の態様５に係る対話装置（１）は、ユーザが入力した内容に対し、過去の入出力履歴（２１）に基づいて生成した応答内容を出力する対話装置であって、該対話装置は少なくとも１つの入力装置（入力部１０）と、少なくとも１つの出力装置（出力部５０）と、少なくとも１つの記憶装置（記憶部２０）と、少なくとも１つの制御装置（制御部６０）とを備えており、前記制御装置は、前記応答内容の候補として選択した特定の入出力履歴（２１）に秘匿情報が含まれるか否かを判定する秘匿情報判定処理（秘匿情報判定部６３）と、前記秘匿情報を出力してよい状況か否かを判定する状況判定処理（状況判定部６４）と、前記応答内容を決定する応答内容決定処理（応答内容決定部６５）と、を含み、前記応答内容決定処理は、前記状況判定処理にて前記秘匿情報を出力してよい状況ではないと判定された場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。前記の構成によれば、前記態様１と同様の作用効果を奏する。

本発明の態様６に係る制御方法は、ユーザが入力した内容に対し、過去の入出力履歴（２１）に基づいて生成した応答内容を出力する対話装置（１）を制御する制御方法であって、前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定工程（Ｓ２、Ｓ１４）と、前記秘匿情報を出力してよい状況か否かを判定する状況判定工程（Ｓ１０）と、前記応答内容を決定する応答内容決定工程（Ｓ７、Ｓ１１、Ｓ１２）と、を備えており、前記応答内容決定工程では、前記状況判定工程にて前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、構成である。前記の構成によれば、前記態様１と同様の作用効果を奏する。

本発明の各態様に係る対話装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記対話装置が備える各部（ソフトウェア要素）として動作させることにより前記対話装置をコンピュータにて実現させる対話装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。

本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。

１ 対話装置
１０ 入力部（入力装置）
２０ 記憶部（記憶装置）
２１ 入出力履歴
５０ 出力部（出力装置）
６０ 制御部（制御装置）
６１ 音声認識部
６２ 応答候補取得部
６３ 秘匿情報判定部
６４ 状況判定部
６５ 応答内容決定部

Claims (7)

1. ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置を制御する制御装置であって、
   前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定部と、
   前記秘匿情報を出力してよい状況か否かを判定する状況判定部と、
   前記応答内容を決定する応答内容決定部と、を備えており、
   前記応答内容決定部は、前記状況判定部が前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、ことを特徴とする制御装置。
2. 前記状況判定部は、前記対話装置の位置、周囲の環境音、および現在の日時の少なくともいずれかに基づいて前記秘匿情報を出力してよい状況か否かを判定する、ことを特徴とする請求項１に記載の制御装置。
3. 前記代替応答は、前記入出力履歴の内容を含まない、ことを特徴とする請求項１または２に記載の制御装置。
4. 前記ユーザが入力した内容および前記対話装置が出力した応答内容に前記秘匿情報が含まれていた場合は、秘匿情報が含まれていることを示す情報を付加し、これらの内容を前記入出力履歴として登録する、ことを特徴とする請求項１から３のいずれか１項に記載の制御装置。
5. ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置であって、該対話装置は少なくとも１つの入力装置と、少なくとも１つの出力装置と、少なくとも１つの記憶装置と、少なくとも１つの制御装置とを備えており、
   前記制御装置は、
   前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定処理と、
   前記秘匿情報を出力してよい状況か否かを判定する状況判定処理と、
   前記応答内容を決定する応答内容決定処理と、を含み、
   前記応答内容決定処理は、前記状況判定処理にて前記秘匿情報を出力してよい状況ではないと判定された場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、ことを特徴とする対話装置。
6. ユーザが入力した内容に対し、過去の入出力履歴に基づいて生成した応答内容を出力する対話装置を制御する制御方法であって、
   前記応答内容の候補として選択した特定の入出力履歴に秘匿情報が含まれるか否かを判定する秘匿情報判定工程と、
   前記秘匿情報を出力してよい状況か否かを判定する状況判定工程と、
   前記応答内容を決定する応答内容決定工程と、を備えており、
   前記応答内容決定工程では、前記状況判定工程にて前記秘匿情報を出力してよい状況ではないと判定した場合、該秘匿情報を含まない代替応答を前記応答内容として決定する、ことを特徴とする制御装置。
7. コンピュータを、請求項１から４のいずれか１項に記載の制御装置における各部として機能させるためのプログラム。

Images