JP2020144663A - エージェント装置、エージェント装置の制御方法、およびプログラム - Google Patents

Abstract

【課題】エージェントがサービスを提供する場合の車内表示を適切な態様で実現することができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供すること。【解決手段】車両の乗員の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部（１５０）と、前記エージェント機能部に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させる表示制御部（１１６）と、を備え、前記表示制御部は、前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる、エージェント装置（１００）。【選択図】図２

Description

本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。

従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。

特開２００６−３３５２３１号公報

近年では、エージェント機能を車両に搭載することについて実用化が進められているが、エージェント機能が起動しているときの表示態様について十分に検討されていなかった。このため、従来の技術では、適切な態様で表示できない場合があった。

本発明は、このような事情を考慮してなされたものであり、エージェントがサービスを提供する場合の車内表示を適切な態様で実現することができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的の一つとする。

この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
（１）：この発明の一態様に係るエージェント装置は、車両の乗員の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、前記エージェント機能部に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させる表示制御部と、を備え、前記表示制御部は、前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる、ものである。

（２）：上記（１）の態様において、前記表示制御部は、前記発話をした乗員の前記車両内の位置に基づいて、前記第１表示領域あるいは前記第２表示領域のいずれか一方に、前記アニメーションを表示させる、ものである。

（３）：上記（１）または（２）の態様において、前記エージェント機能部は、前記車両に設けられた一以上のマイクからの出力に基づいて前記乗員の発話を取得し、前記アニメーションが前記第１表示領域に表示されている場合と、前記アニメーションが前記第２表示領域に表示されている場合とで、前記乗員の発話を取得する取得方法を異ならせる、ものである。

（４）：上記（１）から（３）の態様において、前記エージェント機能部は、前記第１表示領域あるいは前記第２表示領域のうち、前記アニメーションが表示されている方の表示領域と、着座した乗員の頭部を想定した位置が最も近い座席の乗員による発話に基づいて、前記サービスを提供する、ものである。

（５）：上記（１）から（４）の態様において、前記第１表示領域は、前記車両内における位置が、前記第２表示領域よりも運転者の頭部を想定した位置に近い、ものである。

（６）：上記（１）から（５）の態様において、前記表示制御部は、前記表示部と一体的に設けられておりタッチ操作を検出する検出部により、少なくとも前記アニメーションに対するタッチ操作が検出された場合、前記アニメーションに対するタッチ操作に応じて、前記アニメーションを移動させる、ものである。

（７）：上記（１）から（６）の態様において、前記表示制御部は、前記アニメーションが一方の表示領域から他方の表示領域に移動する場合、前記エージェントが前記一方の表示領域から前記他方の表示領域に移動している最中のアニメーションを、前記表示部に表示させる、ものである。

（８）：上記（１）から（７）の態様において、前記表示制御部は、前記乗員の発話に応じて提供するエージェント情報を前記表示部に表示させ、前記アニメーションが表示されている表示領域に前記エージェント情報を表示させる場合と、前記アニメーションが表示されていない表示領域に前記エージェント情報を表示させる場合とで、前記エージェント情報の表示態様を異ならせる、ものである。

（９）：上記（８）の態様において、前記表示制御部は、前記アニメーションの移動に応じて、前記エージェント情報を前記第１表示領域に表示させる場合と、前記エージェント情報を前記第２表示領域に表示させる場合とで、前記エージェント情報の表示態様を異ならせる、ものである。

（１０）：上記（８）または（９）の態様において、前記表示制御部は、前記エージェント情報の情報量が異なるように、前記エージェント情報の表示態様を異ならせる、ものである。

（１１）：上記（８）から（１０）の態様において、前記表示制御部は、前記第１表示領域あるいは前記第２表示領域のうち前記アニメーションが移動した方の表示領域に前記エージェント情報の詳細を表示させ、移動する前の前記アニメーションが表示されていた方の表示領域に前記エージェント情報の概要を表示させる、ものである。

（１２）：上記（８）から（１１）の態様において、前記表示制御部は、前記第２表示領域に表示されている前記エージェント情報の一部が前記乗員により指定された場合、前記第１表示領域の表示を、前記乗員により指定された前記エージェント情報の一部に基づく情報に変更する、ものである。

（１３）：上記（１）から（１２）の態様において、前記表示制御部は、前記車両の運転状況に応じて、前記第１表示領域と前記第２表示領域との間で、前記アニメーションを移動させる、ものである。

（１４）：本発明の他の態様に係るエージェント装置の制御方法は、コンピュータが、エージェント機能を用いて、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、前記エージェント機能に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させ、前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる、ものである。

（１５）：本発明の他の態様に係るプログラムは、コンピュータに、コンピュータに、エージェント機能を用いて、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、前記エージェント機能に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させる処理と、前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる処理と、を実行させるプログラムである。

（１）〜（１５）の態様によれば、エージェントがサービスを提供する場合の車内表示を適切な態様で実現することができる。

エージェント装置１００を含むエージェントシステム１の構成図である。 第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。 表示・操作装置２０の配置例を示す図である。 スピーカユニット３０の配置例を示す図である。 エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。 ＡＧユーザが運転席ＤＳの乗員である場合の画面の一例を示す図である。 ＡＧユーザが助手席の乗員である場合の画面の一例を示す図である。 ＡＧアニメーションが移動中と移動後の画面の一例を示す図である。 ＡＧアニメーションが移動した後の画面の一例を示す図である。 第１ディスプレイ２１の画面例を示す図である。 音像が定位する位置が定まる原理について説明するための図である。 エージェント機能部１５０の起動時の処理の一例を示すフローチャートである。 エージェント機能部１５０の起動後の処理の一例を示すフローチャートである。 ＡＧアニメーションの移動指示を受け付けた場合の表示制御処理の一例を示すフローチャートである。

以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、車両Ｍの乗員と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントはそれぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器（例えば運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。

エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。

＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００−１、２００−２、２００−３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者などが挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。

エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ−Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページを取得することができる。

エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。

＜第１実施形態＞
［車両］
図２は、第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイクユニット１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォンなどの汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。

マイクユニット１０は、車室内で発せられた音声を収集する収音部である。表示・操作装置２０は、画像を表示すると共に、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。表示・操作装置２０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。これらの詳細については後述する。

ナビゲーション装置４０は、ナビＨＭＩ（Human machine Interface）と、ＧＰＳ（Global Positioning System）などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置（ナビゲーションコントローラ）とを備える。マイクユニット１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。

車両機器５０は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報などの車両情報装置などを含む。

車載通信装置６０は、例えば、セルラー網やＷｉ−Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。

乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置などを含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサなどを含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向きなどを認識する。本実施形態において、乗員認識装置８０は、着座位置認識部の一例である。

図３は、表示・操作装置２０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２１と、第２ディスプレイ２２と、第３ディスプレイ２３と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。

車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２１は、運転席ＤＳと対向して設けられるメーターＭＴの付近に設置されている。第２ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳと助手席ＡＳとの中間辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第３ディスプレイ２３は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第２ディスプレイ２２の下方に設置されている。

第１ディスプレイ２１は、第１表示領域を含む一例であり、第２ディスプレイ２２は、第２表示領域を含む一例である。第１表示領域は、第２表示領域に比べて、車両Ｍ内における位置が、運転者の頭部を想定した位置に近い。

例えば、第１ディスプレイ２１、第２ディスプレイ２２、および第３ディスプレイ２３は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイなどを備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。第１ディスプレイ２１、第２ディスプレイ２２、および第３ディスプレイ２３が表示する内容は、エージェント装置１００によって決定されてよい。

図４は、マイクユニット１０とスピーカユニット３０の配置例を示す図である。マイクユニット１０は、例えば、マイク１０Ｃ，１０Ｒ，１０Ｌを含む。マイク１０Ｃは、運転席ＤＳと助手席ＡＳとの間に設置される。マイク１０Ｒは、運転席ＤＳ側の窓柱（いわゆるＡピラー）に設置されている。マイク１０Ｌは、助手席ＡＳ側の窓柱に設置されている。

スピーカユニット３０は、例えば、スピーカ３０Ａ〜３０Ｈを含む。スピーカ３０Ａは、運転席ＤＳ側の窓柱に設置されている。スピーカ３０Ｂは、運転席ＤＳに近いドアの下部に設置されている。スピーカ３０Ｃは、助手席ＡＳ側の窓柱に設置されている。スピーカ３０Ｄは、助手席ＡＳに近いドアの下部に設置されている。スピーカ３０Ｅは、右側後部座席ＢＳ１側に近いドアの下部に設置されている。スピーカ３０Ｆは、左側後部座席ＢＳ２側に近いドアの下部に設置されている。スピーカ３０Ｇは、第２ディスプレイ２２の近傍に設置されている。スピーカ３０Ｈは、車室の天井（ルーフ）に設置されている。

係る配置において、例えば、専らスピーカ３０Ａおよび３０Ｂに音を出力させた場合、音像は運転席ＤＳ付近に定位することになる。また、専らスピーカ３０Ｃおよび３０Ｄに音を出力させた場合、音像は助手席ＡＳ付近に定位することになる。また、専らスピーカ３０Ｅに音を出力させた場合、音像は右側後部座席ＢＳ１付近に定位することになる。また、専らスピーカ３０Ｆに音を出力させた場合、音像は左側後部座席ＢＳ２付近に定位することになる。また、専らスピーカ３０Ｇに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｈに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット３０は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。

［エージェント装置］
図２に戻り、エージェント装置１００は、管理部１１０と、エージェント機能部１５０−１、１５０−２、１５０−３と、ペアリングアプリ実行部１５２とを備える。管理部１１０は、例えば、音声取得部１１１と、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、指示受付部１１５と、表示制御部１１６と、音声制御部１１８とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。

エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）などのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）などのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。

管理部１１０は、ＯＳ（Operating System）やミドルウェアなどのプログラムが実行されることで機能する。

音声取得部１１１は、マイクユニット１０からの出力に基づいて、発話した乗員の座席を特定する。例えば、音声取得部１１１は、マイクユニット１０からの出力に基づいて、音声が発せられた方向が、運転席ＤＳであるか、あるいは、助手席ＡＳであるかを判定する。例えば、マイクが運転席ＤＳ用と助手席ＡＳ用にそれぞれ設置されている場合、音声取得部１１１は、マイクが取得した音量が大きい方の座席を、発話した乗員の座席に決定する。また、管理部１１０は、乗員認識装置８０のカメラが取得した画像に基づいて、口を動かしている乗員を、発話した乗員であると特定する機能部を備えていてもよい。

音声取得部１１１は、例えば、ウエイクアップワードを発話した乗員（エージェント機能部１５０を起動した乗員の一例）の座席に応じて、それぞれ異なる音声取得方法で、マイクユニット１０の音声を処理する。例えば、音声取得部１１１は、マイクユニット１０のうち音声を採用するマイクを切り替えることで音声取得方法を変える。また、音声取得部１１１は、フェーズドアレイレーダに対するＤＢＦのような処理を行うことで、音声取得方法を変えてもよい。また、音声取得部１１１は、マイク自体を電子的あるいは機械的に駆動し、マイクのオンとオフを切り替える制御や、マイクの首振り機能を用いてマイクの向きを変更する制御をすることにより、音声取得方法を変えてもよい。

例えば、音声取得部１１１は、ウエイクアップワードを発話した乗員の座席に関わらず、ＡＧアニメーションがディスプレイ間を移動して、エージェントと対話する乗員が切り替わった場合、エージェントと対応する乗員の座席に応じて、音声取得方法を変えてよい。エージェントと対話する乗員が切り替わること等については後述する。例えば、エージェントと対応する乗員が運転席ＤＳの乗員である場合、運転席用の取得方法で、マイクユニット１０の音声を処理する。例えば、エージェントと対応する乗員が助手席ＡＳの乗員である場合、助手席用の取得方法で、マイクユニット１０の音声を処理する。

なお、音声取得方法は、車両Ｍに設置されているマイクの個数や車両内の位置に応じて任意に設定されてよい。例えば、マイクが運転席ＤＳと助手席ＡＳのそれぞれについている場合、音声取得部１１１は、運転席用の取得方法では運転席ＤＳ側のマイク１０Ｒをオンにして助手席ＡＳ側のマイク１０Ｌをオフにする。また、マイクが運転席ＤＳと助手席ＡＳに共通である場合、音声取得部１１１は、指向性を変化させる。

なお、音声取得部１１１による処理は、エージェントごとＷＵ判定部１１４やエージェント機能部１５０により実行されてもよい。例えば、エージェントごとＷＵ判定部１１４やエージェント機能部１５０は、マイクユニット１０からの出力に基づいて乗員の発話を取得し、ＡＧアニメーションが運転者用画面に表示されている場合と、ＡＧアニメーションが助手席用画面に表示されている場合とで、上述した音声取得部１１１のように、乗員の発話を取得する取得方法を異ならせる。

管理部１１０の音響処理部１１２は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された音に対して音響処理を行う。

エージェントごとＷＵ判定部１１４は、エージェント機能部１５０−１、１５０−２、１５０−３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声の意味を認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。

次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合。エージェントごとＷＵ判定部１１４は、対応するエージェント機能部１５０を起動させる。なお、エージェントごとＷＵ判定部１１４に相当する機能がエージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。なお、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はない。

エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両機器５０を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。例えば、エージェント機能部１５０−１には、車両機器５０を制御する権限が付与されている。エージェント機能部１５０−１は、車載通信装置６０を介してエージェントサーバ２００−１と通信する。エージェント機能部１５０−２は、車載通信装置６０を介してエージェントサーバ２００−２と通信する。エージェント機能部１５０−３は、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００−３と通信する。ペアリングアプリ実行部１５２は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）によって汎用通信装置７０とペアリングを行い、エージェント機能部１５０−３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０−３は、ＵＳＢ（Universal Serial Bus）などを利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。以下、エージェント機能部１５０−１とエージェントサーバ２００−１が協働して出現させるエージェントをエージェント１、エージェント機能部１５０−２とエージェントサーバ２００−２が協働して出現させるエージェントをエージェント２、エージェント機能部１５０−３とエージェントサーバ２００−３が協働して出現させるエージェントをエージェント３と称する場合がある。

エージェント機能部１５０は、例えば、ウエイクアップワードを発話した乗員のその後の発話に基づいてエージェント機能を提供する。ウエイクアップワードを発話した乗員から他の乗員に、エージェント対応が引き継がれた場合、引き継がれた乗員の発話に基づいて、サービスを提供する。エージェント対応には、例えば、エージェントと対話することが含まれる。

指示受付部１１５は、表示・操作装置２０を用いて乗員からの指示を受け付ける。例えば、第１ディスプレイ２１と一体的に設けられた検出部からの出力や、第２ディスプレイ２２と一体的に設けられた検出部からの出力に基づいて、乗員からの指示を受け付ける。これに限られず、指示受付部１１５は、音声認識機能を備え、車内音声に基づいて音声の意味を認識することにより、乗員からの指示を受け付けてもよい。車内音声には、マイクユニット１０から入力された音や、音響処理部１１２により音響処理が行われた音声（音声ストリーム）などが含まれる。

表示制御部１１６は、エージェント機能部１５０からの指示に応じて、第１ディスプレイ２１、第２ディスプレイ２２あるいは第３ディスプレイ２３に、画像や動画を表示させる。

以下では、表示制御部１１６が、エージェント機能部１５０からの指示に従って、運転席用画面用の画像と助手席用画面用の画像とを生成し、運転席用画面の画像を第１ディスプレイ２１に表示させ、助手席用画面の画像を第２ディスプレイ２２に表示させるものとする。運転席用画面の画像と助手席用画面用の画像については、後述する。表示制御部１１６は、助手席用画像や運転席用画像の一部として、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントのアニメーション（以下、ＡＧアニメーションと称する）を生成し、第１ディスプレイ２１と第２ディスプレイ２２のうちいずれか一方に、生成したＡＧアニメーションを表示させる。例えば、表示制御部１１６は、ウエイクアップワードを発話した乗員の座席用の画面に、ＡＧアニメーションを表示する。

ＡＧアニメーションは、例えば、エージェントのキャラクタやエージェントのアイコンなどを表すアニメーションである。ＡＧアニメーションは、例えば、人や擬人化された者が乗員に対して話しかける態様の画像あるいは動画である。ＡＧアニメーションは、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、ＡＧアニメーションは、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、ＡＧアニメーションは、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントのアクション（動作や振る舞い）、姿勢等が認識されるものであってもよい。

例えば、表示制御部１１６は、エージェント機能部１５０が起動している期間において、第１ディスプレイ２１あるいは第２ディスプレイ２２に、ＡＧアニメーションを表示させる。表示制御部１１６は、乗員の発話に応じてＡＧアニメーションのアクションを異ならせてもよい。例えば、表示制御部１１６は、エージェントの待機中において、ＡＧアニメーションに小さなアクションを実行させ、エージェントが乗員の発話に応じた処理を実行する場合、実行する処理に応じたアクションをＡＧアニメーションに実行させてもよい。

音声制御部１１８は、エージェント機能部１５０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部１１８は、複数のスピーカユニット３０を用いて、ＡＧアニメーションの表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。ＡＧアニメーションの表示位置に対応する位置とは、例えば、ＡＧアニメーションがエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、ＡＧアニメーションの表示位置付近（例えば、２〜３［ｃｍ］以内）の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。

［エージェントサーバ］
図５は、エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成と共にエージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。

エージェントサーバ２００は、通信部２１０を備える。通信部２１０は、例えばＮＩＣ（Network Interface Card）などのネットワークインターフェースである。更に、エージェントサーバ２００は、例えば、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８とを備える。これらの構成要素は、例えば、ＣＰＵなどのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵなどのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。

エージェントサーバ２００は、記憶部２５０を備える。記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、パーソナルプロファイル２５２、辞書ＤＢ（データベース）２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８などのデータやプログラムが格納される。

エージェント装置１００において、エージェント機能部１５０は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ２００に送信する。エージェント機能部１５０は、ローカル処理（エージェントサーバ２００を介さない処理）が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置１００が備える記憶部（不図示）を参照することで回答可能な音声コマンドであったり、エージェント機能部１５０−１の場合は車両機器５０を制御する音声コマンド（例えば、空調装置をオンにするコマンドなど）であったりする。従って、エージェント機能部１５０は、エージェントサーバ２００が備える機能の一部を有してもよい。

音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５４を参照しながら意味解釈を行う。辞書ＤＢ２５４は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５４は、同義語や類義語の一覧情報を含んでもよい。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正するなど、相互に影響し合って行われてよい。

自然言語処理部２２２は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。

対話管理部２２４は、自然言語処理部２２２の処理結果（コマンド）に基づいて、パーソナルプロファイル２５２や知識ベースＤＢ２５６、応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する発話の内容を決定する。パーソナルプロファイル２５２は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容など）を規定した情報である。

また、対話管理部２２４は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル２５２と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル２５２には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。

対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。

応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、エージェント装置１００に送信する。応答文生成部２２８は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。

エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１１８に指示する。また、エージェント機能部１５０は、音声出力に合わせてＡＧアニメーションを表示するように表示制御部１１６に指示する。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。

［表示制御］
表示制御部１１６は、エージェント機能部１５０が提供するサービスやエージェント等に関する情報を、第１ディスプレイ２１と第２ディスプレイ２２に表示させる。

例えば、表示制御部１１６は、発話した乗員の車両内の位置に基づいて、第１ディスプレイ２１あるいは第２ディスプレイ２２のいずれか一方に、ＡＧアニメーションを表示させる。例えば、表示制御部１１６は、第１ディスプレイ２１と第２ディスプレイ２２のうち、エージェントと対話する乗員（以下、ＡＧユーザと記す）の座席に応じて、各座席と予め対応付けられている方のディスプレイにＡＧアニメーションを表示させる。例えば、第１ディスプレイ２１が、運転席ＤＳと予め対応付けられており、第２ディスプレイ２２が、助手席ＡＳと予め対応付けられている。

ＡＧユーザは、例えば、ウエイクアップワードを発話した乗員でもよく、ウエイクアップワードを発話した乗員からエージェント対応を引き継いだ乗員であってもよい。エージェント対応は、例えば、ＡＧアニメーションを他のディスプレイに移動させることで、ＡＧアニメーションの移動に伴い引き継がせることができる。例えば、運転席ＤＳの方からウエイクアップワードが発話された場合、ＡＧユーザは、運転席ＤＳの乗員である。

表示制御部１１６は、乗員からの移動指示に応じて、第１ディスプレイ２１と第２ディスプレイ２２との間で、ＡＧアニメーションを移動させる。

乗員からの移動指示は、例えば、指示受付部１１５によって取得され、表示制御部１１６に出力される。乗員からの移動指示は、例えば、第１ディスプレイ２１あるいは第２ディスプレイ２２に表示されたＡＧアニメーションに対するタッチ操作やフリック操作が含まれる。ＡＧアニメーションに対するタッチ操作は、例えば、ＡＧアニメーションを表示する部分をタッチする操作でもよく、乗員からの移動指示を受け付けるボタン等をタッチする操作でもよい。ＡＧアニメーションに対するフリック操作は、例えば、ＡＧアニメーションを表示する部分を振り払うような操作でもよく、ディスプレイの表示面を全体的に振り払うような操作でもよい。

これに限られず、乗員からの移動指示は、音声認識により指示受付部１１５が取得してもよく、乗員認識装置８０からの出力に基づいて指示受付部１１５が取得してもよい。前者の場合、例えば、「エージェントを助手席に移して」、「助手席に引き継がせる」、「エージェント一時逃し」などの音声を認識した場合が含まれる。後者の場合、例えば、乗員が手や指を振り払う動作が車内を撮像した画像に基づいて認識された場合が含まれる。

なお、指示受付部１１５は、ＡＧアニメーションに対するフリック操作に基づいて、ＡＧアニメーションを移動する方向を受け付けてもよい。例えば、第１ディスプレイ２１に表示されているＡＧエージェントに対して、助手席ＡＳに向かって振り払うフリック操作が運転席ＤＳの乗員によりなされた場合、指示受付部１１５は、第１ディスプレイ２１から第２ディスプレイ２２への移動であることを受け付ける。この例に限られず、第３ディスプレイ２３に向けてフリック操作がなされた場合、指示受付部１１５は、第１ディスプレイ２１から第３ディスプレイ２３への移動であることを受け付けてもよい。また、後部座席の方にディスプレイが設置されており、画面の上や下に向かってフリック操作がなされた場合、指示受付部１１５は、第１ディスプレイ２１から後部座席のディスプレイへの移動であることを受け付けてもよい。

また、表示制御部１１６は、乗員の発話に応じて提供するエージェント情報を、表示・操作装置２０に表示させてもよい。エージェント情報には、例えば、エージェントが乗員にお勧めするレコメンドリスト、乗員が要求する条件に基づいて検索エンジンを用いて検索された検索結果などが含まれる。

表示制御部１１６は、第１ディスプレイ２１と第２ディスプレイ２２の両方に、エージェント情報を表示してもよい。この場合、表示制御部１１６は、ＡＧアニメーションが表示されている表示領域にエージェント情報を表示させる場合と、ＡＧアニメーションが表示されていない表示領域にエージェント情報を表示させる場合と、エージェント情報の表示態様を異ならせてもよい。例えば、表示制御部１１６は、ＡＧアニメーションが表示されている表示領域に表示させる場合、ＡＧアニメーションが表示されていない表示領域に表示させる場合に比べて、エージェント情報の情報量を少なくする。

また、ＡＧエージェントが他のディスプレイに移動されることによりエージェント対応が他の乗員に引き継がれた場合、表示制御部１１６は、エージェント情報の表示態様を変える。例えば、ＡＧエージェントが運転席用画面から助手席用画面に移動された場合、表示制御部１１６は、運転席用画面に表示されていたエージェント情報を表示させないようにし、エージェント情報が表示されていなかった助手席用画面にエージェント情報を表示させる。つまり、表示制御部１１６は、ＡＧアニメーションの移動の前後において、エージェント情報の情報量を変える。

［音声取得制御］
エージェントごとＷＵ判定部１１４およびエージェント機能部１５０は、ＡＧアニメーションの移動に応じて、音声の取得方法を変更する。言い換えると、ＡＧエージェントが他のディスプレイに移動されることによりエージェント対応が他の乗員に引き継がれた場合（つまり、ＡＧユーザが切り替えられた場合）、エージェントごとＷＵ判定部１１４およびエージェント機能部１５０は、音声の取得方法も、エージェント対応する乗員の音声を取得する取得方法に切り替える。なお、音声の取得方法は、音声取得部１１１により変更されてもよい。

以下、エージェント機能部１５０が、音声の取得方法を変更する例について説明する。例えば、ウエイクアップワードを発話した乗員が運転席ＤＳの乗員である場合、ＡＧユーザは運転席ＤＳの乗員であり、ＡＧアニメーションが表示されるディスプレイは第１ディスプレイ２１である。ＡＧユーザが運転席ＤＳの乗員である場合、エージェント機能部１５０は、音声の取得方法を、運転席用の取得方法に決定する。音声取得部１１１は、運転席用の取得方法で、音声を処理する。そして、ＡＧアニメーションに対するタッチ操作が運転席ＤＳの乗員によりなされたとする。この場合、ＡＧエージェントが第１ディスプレイ２１から第２ディスプレイ２２へ移動されると共に、エージェント機能部１５０は、音声の取得方法を、運転席用の取得方法から助手席用の取得方法に変える。音声取得部１１１は、助手席用の取得方法で、音声を処理する。

［画面例その１］
図６は、ＡＧユーザが運転席ＤＳの乗員である場合の画面の一例を示す図である。第１ディスプレイ２１には、運転席用画面５０１が、第２ディスプレイ２２には、助手席用画面６０１が、それぞれ表示されている。運転席用画面５０１には、サービスタイトル５１０と、レコメンドリスト５２０と、ＡＧアニメーション５５０とが表示されている。助手席用画面６０１は、レコメンドリストやＡＧアニメーションが表示されていないブランク状態である。ここでは、エージェント機能部１５０−１が、エージェントサーバ２００−１と協働して、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、乗員の要求に応じたレコメンド情報を取得し、取得したレコメンド情報を乗員に提供するレコメンドサービスを提供する例について説明する。乗員によりレコメンド情報の一つが目的地として選択された場合、エージェント機能部１５０−１は、車両機器５０を制御して、選択された目的地に向かって車両Ｍを走行させてもよい。

図７は、ＡＧユーザが助手席の乗員である場合の画面の一例を示す図である。助手席用画面６０１には、サービスタイトル６１０と、レコメンドリスト６２０と、限定条件６３０と、周辺地図６４０と、ＡＧアニメーション６５０とが表示されている。運転席用画面５０１は、レコメンドリストやＡＧアニメーションが表示されていないブランク状態である。

サービスタイトル５１０，６１０は、エージェント機能部１５０−１が提供するサービスの概要を表す。レコメンドリスト５２０，６２０は、エージェント機能部１５０−１により取得されたレコメンド情報の一部を表す。レコメンドリスト５２０，６２０には、例えば、車両Ｍの周辺の飲食店に関する情報が含まれる。レコメンドリスト６２０は、複数のレコメンド要素６２１，６２２，６２３，６２４…を含み、レコメンド要素ごとに各飲食店の情報がまとめられている。

限定条件６３０は、レコメンドリスト６２０に表示する情報を絞る（限定する）条件を表す。周辺地図６４０は、レコメンドリスト５２０に含まれる各飲食店の位置を示す。ＡＧアニメーション５５０，６５０は、エージェント機能部１５０−１に対応するエージェントのアニメーションである。ここで、エージェント機能部１５０−１に対応するエージェントは、例えば、例えば擬人化された丸いボールのような見た目のアニメーションである。

サービスタイトル５１０は、サービスタイトル６１０に比べて、表示される文字数が少ない。サービスタイトル５１０は、エージェントが提供するサービスを一言で表現し、サービスタイトル６１０は、エージェントが提供するサービスを丁寧な文章で表現している。こうすることで、運転席ＤＳの乗員は、表示されている情報の内容を短い時間で推測でき、運転席ＤＳの乗員がディスプレイに注視することを抑制することができる。

レコメンドリスト５２０は、レコメンドリスト６２０に比べて、表示される文字数や情報量が少ない。レコメンドリスト５２０には、例えば、飲食店の名称、飲食店までの所要時間、飲食店の評価が表示される。レコメンドリスト６２０には、飲食店名の名称、飲食店までの所要時間、飲食店の評価に加え、例えば、飲食店までの距離、飲食店の営業時間、飲食店の口コミ、価格帯、イメージ画像などが含まれてよい。表示項目の数の違いだけでなく、レコメンドリスト５２０，６２０の両方に表示される情報であっても、その表示が異なるものであってもよい。例えば、飲食店の評価は、レコメンドリスト６２０は、星のイラストで星の数を表現し、レコメンドリスト５２０は、星の数を数字で表現している。こうすることで、運転席ＤＳの乗員は、周辺の飲食店についての簡単な情報を得ることができる。また、表示されているたくさんの情報を見ようとして、運転席ＤＳの乗員がディスプレイに注視することを抑制することができる。

また、表示制御部１１６は、限定条件６３０や周辺地図６４０を、第２ディスプレイ２２にだけ表示し、第１ディスプレイ２１に表示させないことにより、表示態様を異ならせてもよい。限定条件６３０を第２ディスプレイ２２に表示させることで、指示受付部１１５が助手席ＡＳの乗員から条件の限定指示を受け付けて、レコメンドリスト６２０に表示される情報をさらに絞ることができる。助手席ＡＳの乗員は、自分の判断で、あるいは運転席ＤＳの乗員の指示に従って、限定条件６３０を操作することができる。表示制御部１１６は、限定条件６３０を第１ディスプレイ２１に表示させないことにより、運転席ＤＳの乗員がエージェントに対する指示を手操作で入力することを抑制することができる。また、周辺地図６４０を第２ディスプレイ２２にだけ表示させることで、運転席ＤＳの乗員が細かい地図に注視することを抑制することができる。なお、条件の限定指示は、第２ディスプレイ２２が受け付けることに限られず、指示受付部１１５によって音声認識機能を用いて受け付けられてもよい。この場合も、助手席ＡＳの乗員が、限定条件６３０を見て確認し、条件の限定を指示することができ、利便性が向上する。

また、表示制御部１１６は、乗員の発話に応じたアクションをＡＧアニメーションに対して実行させてもよい。アクションには、例えば、動き、振る舞い、表情などが含まれる。例えば、乗員による発話を待機している場合、ＡＧアニメーションが大人しく待っているようなアクションを取るようにしてよい。また、乗員の発話に応じた情報を探している場合、ＡＧアニメーションが虫眼鏡を除いて何かを探しているようなアクションを取るようにしてもよい。

［画面例その２］
図８は、ＡＧアニメーションが移動中と移動後の画面の一例を示す図である。ここでは、移動前の状態において、ＡＧユーザが運転席ＤＳの乗員である例について説明する。移動前の状態では、図６に示すような画像が第１ディスプレイ２１に表示されている。図８に示したＡＧアニメーション５５０（ｔ１）は、移動前のＡＧアニメーションである。なお、ｔｘは、時刻を示し、ｔ１が最も過去で、ｔ５が最も未来である。例えば、ＡＧアニメーション５５０（ｔ１）が運転席ＤＳの乗員によりタッチ操作された場合、ＡＧアニメーション５５０（ｔ２）、５５０（ｔ３）が順番に表示される。そして、ＡＧアニメーション５５０（ｔ３）が第１ディスプレイ２１から消えると、ＡＧアニメーションは、第２ディスプレイ２２に移動し、ＡＧアニメーション６５０（ｔ４）、６５０（ｔ５）が順番に表示される。こうすることにより、表示制御部１１６は、ＡＧアニメーションが、第１ディスプレイ２１から第２ディスプレイ２２に移動している最中のアニメーションを表示させることができる。また、表示制御部１１６は、ＡＧアニメーションの移動に伴い、図７に示したようなエージェント情報を第２ディスプレイ２２に表示させる。

こうすることで、運転席ＤＳの乗員は、エージェントと対話する役割を、助手席ＡＳの乗員に引き継がせることができる。このため、運転席ＤＳの乗員に代わって、助手席ＡＳの乗員がエージェントと対話したり、エージェント情報を確認することができる。また、助手席ＡＳに乗員が乗車していない場合であっても、第２ディスプレイ２２にエージェントを一時的に逃がすことにより、第１ディスプレイ２１にＡＧアニメーションやエージェント情報が表示されなくなり、また、エージェントが運転席ＤＳの乗員に話しかけなくなる。これによって、運転席ＤＳの乗員が運転に集中する環境を作ることができる。また、運転に集中したいときにエージェント機能部１５０を停止させることも可能であるが、再度起動する場合には、ウエイクアップの発話などの乗員が既にしていた発話を最初からしなければならず煩わしかったが、この手間を省くことができる。

［画面例その３］
図９は、ＡＧアニメーションが移動した後の画面の一例を示す図である。ここでのＡＧアニメーションの移動も、図８に示す例と同様であって、第１ディスプレイ２１から第２ディスプレイ２２への移動である。以下、図８の例と異なる点について説明する。表示制御部１１６は、ＡＧアニメーションが移動し、第１ディスプレイ２１にＡＧアニメーション５５０が表示さていない状態において、エージェント情報の概要を第１ディスプレイ２１に表示させる。こうすることで、運転席ＤＳの乗員は、エージェントとの対話を助手席ＡＳの乗員に任せつつ、自身もエージェント情報を確認することができる。なお、図９の例では、エージェント情報の概要を第１ディスプレイ２１に表示しているが、エージェント情報の詳細を第１ディスプレイ２１に表示してもよい。

［画面例その４］
表示制御部１１６は、第２ディスプレイ２２に表示されているエージェント情報の一部が、表示・操作装置２０を用いて助手席ＡＳの乗員により指定された場合、第１ディスプレイ２１の表示を、助手席ＡＳの乗員により指定されたエージェント情報の一部に基づく情報に変更してもよい。なお、エージェント情報の一部の指定は、指示受付部１１５によって音声認識機能を用いて受け付けられてもよい。

図１０は、第１ディスプレイ２１の画面例を示す図である。レコメンドリスト５２０（ｔ１１）は、図９に示した表示態様と同じである。なお、ここでは、ＡＧユーザが助手席ＡＳの乗員であり、ＡＧアニメーションは、第２ディスプレイ２２に表示されている。例えば、表示制御部１１６は、第２ディスプレイ２２に表示されているレコメンド要素６２１（図９参照）が助手席ＡＳの乗員によりタッチされた場合、指示受付部１１５は、レコメンド要素６２１が指定されたことを受け付け、その旨を表示制御部１１６に通知する。表示制御部１１６は、レコメンド要素６２１に対応する飲食店に関する情報を、第１ディスプレイ２１に表示させる。例えば、表示制御部１１６は、図１０に示すようなレコメンドリスト５２０（ｔ１２）を、第１ディスプレイ２１に表示させる。

レコメンドリスト５２０（ｔ１２）には、レコメンド要素６２１に対応する飲食店に関する、飲食店の名称、飲食店までの所要時間、飲食店の評価、およびイメージ画像が含まれる。つまり、第２ディスプレイ２２に表示されている一のレコメンド要素が乗員により選択された場合、表示制御部１１６は、レコメンドリスト５２０に表示するレコメンド要素の数を少なくする。よって、表示制御部１１６は、レコメンドリスト５２０（ｔ１２）に表示する文字の大きさを、レコメンドリスト５２０（ｔ１１）に比べて大きくし、レコメンドリスト５２０（ｔ１１）には表示されていないイメージ画像をレコメンドリスト５２０（ｔ１２）に表示させることができる。こうすることにより、運転席ＤＳの乗員は、助手席ＡＳの乗員が選択した飲食店に関する情報を見やすくなり、細かい字などがたくさん表示されることで見にくい画面に比べて、運転席ＤＳの乗員がディスプレイに注視することを防止することができる。また、助手席ＡＳの乗員は、自分が気になる飲食店に行くことについて、運転席ＤＳの乗員に同意を求めることができる。

これに限られず、第１ディスプレイ２１にレコメンドリスト５２０（ｔ１２）が表示される前は、レコメンドリスト等が表示されていないブランク状態であってもよい。

［画面例その５］
表示制御部１１６は、車両Ｍの運転状況に応じて、第１ディスプレイ２１と第２ディスプレイ２２との間で、ＡＧアニメーションを移動させてもよい。この場合も、ＡＧアニメーションが移動したときの上述の処理を実行してもよい。例えば、エージェント情報の表示態様や音声の取得方法を、ＡＧアニメーションの移動に伴い変更してもよい。

例えば、表示制御部１１６は、車両Ｍの運転状況が第１条件を満たした場合、ＡＧアニメーションを、第１ディスプレイ２１から第２ディスプレイ２２へ移動させる。第１条件には、例えば、カーブを曲がる、時速が閾値以上になる、高速道路を走行する、住宅街を走行する、車線を変更する、前方車両を追い越す、目的地を変更する、等が含まれる。

また、表示制御部１１６は、車両Ｍの運転状況が第２条件を満たした場合（あるいは、車両Ｍの運転状況が第１条件を満たさなくなった場合）、ＡＧアニメーションを、第２ディスプレイ２２から第１ディスプレイ２１へ移動させる。第２条件には、例えば、カーブを曲がった後で直線を走る、時速が閾値以下になる、高速道路を降りる、等が含まれる。

こうすることにより、車両Ｍの運転状況が第１条件を満たした場合、運転者の操作によらずにＡＧアニメーションを助手席用画面６０１に移動させることができ、エージェントと対話する乗員を助手席ＡＳの乗員に自動で切り替えることができる。よって、運転席ＤＳの乗員が運転席用画面５０１に表示されるＡＧアニメーション５５０等に気を取られず、運転に集中する環境を提供することができる。また、助手席ＡＳの乗員が助手席用画面６０１に表示のＡＧアニメーションに気づいた場合、運転状況が所定条件を満たしていることを認識し、運転席ＤＳの乗員に対して話しかけるなどの行為を控えることができる。よって、運転席ＤＳの乗員が運転に集中する環境を作ることができる。また、第１条件を満たした後に、第２条件を満たした場合（あるいは第１条件を満たさなくなった場合）には、ＡＧアニメーションを運転席用画面５０１に戻し、エージェントと対話する乗員を運転席ＤＳの乗員に自動的に切り替えることができ、利便性が向上する。

［音声制御］
音声制御部１１８は、ＡＧアニメーションが第１ディスプレイ２１と第２ディスプレイ２２との間を移動に応じて、エージェント音声の音像を定位させる位置を変更してもよい。例えば、ＡＧアニメーションが第１ディスプレイ２１から第２ディスプレイ２２に移動した場合、音声制御部１１８は、第２ディスプレイ２２に表示されているＡＧアニメーションがエージェント音声を喋っていると助手席ＡＳの乗員が感じると予測される位置に、音像を定位させる制御を行う。一方、ＡＧアニメーションが第２ディスプレイ２２から第１ディスプレイ２１に移動した場合、音声制御部１１８は、第１ディスプレイ２１に表示されているＡＧアニメーションがエージェント音声を喋っていると運転席ＤＳの乗員が感じると予測される位置に、音像を定位させる制御を行う。

図１１は、音像が定位する位置が定まる原理について説明するための図である。図１１では、説明を簡略化するために、上述したスピーカ３０Ｂ、３０Ｄ、および３０Ｇを用いる例を示しているが、スピーカユニット３０に含まれる任意のスピーカが使用されてよい。音声制御部１１８は、各スピーカに接続されたアンプ（ＡＭＰ）３２およびミキサー３４を制御して音像を定位させる。例えば、図１１に示す空間位置ＭＰ１に音像を定位させる場合、音声制御部１１８は、アンプ３２およびミキサー３４を制御することにより、スピーカ３０Ｂに最大強度の５％の出力を行わせ、スピーカ３０Ｄに最大強度の８０％の出力を行わせ、スピーカ３０Ｇに最大強度の１５％の出力を行わせる。この結果、乗員Ｐの位置からは、図１１に示す空間位置ＭＰ１に音像が定位しているように感じることになる。

また、図１１に示す空間位置ＭＰ２に音像を定位させる場合、音声制御部１１８は、アンプ３２およびミキサー３４を制御することにより、スピーカ３０Ｂに最大強度の４５％の出力を行わせ、スピーカ３０Ｄに最大強度の４５％の出力を行わせ、スピーカ３０Ｇに最大強度の４５％の出力を行わせる。この結果、乗員Ｐの位置からは、図１１に示す空間位置ＭＰ２に音像が定位しているように感じることになる。このように、車室内に設けられる複数のスピーカとそれぞれのスピーカから出力される音の大きさを調整することで、音像が定位される位置を変化させることができる。なお、より詳細には、音像の定位する位置は、音源が元々保有している音特性や、車室内環境の情報、頭部伝達関数（HRTF；Head-related transfer function）に基づいて定まるため、音声制御部１１８は、予め官能試験などで得られた最適な出力配分でスピーカユニット３０を制御することで、音像を所定の位置に定位させる。

［フローチャート］
図１２は、エージェント機能部１５０の起動時の処理の一例を示すフローチャートである。エージェント装置１００は、ウエイクアップワードが発話されたか否かを判定する（ステップＳ１０１）。ウエイクアップワードが発話された場合、エージェント機能部１５０が起動する。そして、管理部１１０は、発話した乗員の座席を特定し、特定した座席をＡＧユーザの座席に決定する（ステップＳ１０２）。次いで、管理部１１０は、決定されたＡＧユーザの座席が運転席ＤＳであるか否かを判定する（ステップＳ１０３）。ＡＧユーザの座席が運転席ＤＳである場合、表示制御部１１６は、運転席用画面５０１にＡＧアニメーションとエージェント情報の概要を表示する（ステップＳ１０４）。音声取得部１１１は、運転席用の取得方法で、音声を取得する制御を開始する（ステップＳ１０５）。音声制御部１１８は、第１ディスプレイ２１に表示されているＡＧアニメーションがエージェント音声を喋っていると運転席ＤＳの乗員が感じると予測される位置に、音像を定位させる制御を開始する（ステップＳ１０６）。

一方、ステップＳ１０３において、決定されたＡＧユーザの座席が運転席ＤＳでない場合、管理部１１０は、決定されたＡＧユーザの座席が助手席ＡＳであるか否かを判定する（ステップＳ１０７）。ＡＧユーザの座席が助手席ＡＳである場合、表示制御部１１６は、助手席用画面６０１にＡＧアニメーションとエージェント情報の詳細を表示する（ステップＳ１０８）。音声取得部１１１は、助手席用の取得方法で、音声を取得する制御を開始する（ステップＳ１０９）。音声制御部１１８は、第２ディスプレイ２２に表示されているＡＧアニメーションがエージェント音声を喋っていると助手席ＡＳの乗員が感じると予測される位置に、音像を定位させる制御を開始する（ステップＳ１１０）。

図１３は、エージェント機能部１５０の起動後の処理の一例を示すフローチャートである。エージェント装置１００は、以下に説明する処理を所定のタイミングで繰り返す。なお、エージェント機能部１５０によりサービスが提供されるための処理については、説明を省略する。

まず、エージェント機能部１５０が、ＡＧユーザである乗員から発話があったか否かを判定する（ステップＳ２０１）。ＡＧユーザである乗員から発話があった場合、表示制御部１１６は、ＡＧユーザである乗員の発話に応じたエージェント情報をＡＧユーザ用の画面に表示させる（ステップＳ２０２）。ここで、表示制御部１１６は、ＡＧユーザである乗員の発話に応じたアクションをディスプレイに表示されているＡＧアニメーションに実行させてもよい。

一方、ステップＳ２０１において、ＡＧユーザである乗員から発話がなかった場合、指示受付部１１５は、ＡＧアニメーションの移動指示を受け付けたか否かを判定する（ステップＳ２０３）。ＡＧアニメーションの移動指示を受け付けた場合、表示制御部１１６は、ＡＧアニメーションが他のディスプレイに移動している最中のアニメーションを両方のディスプレイに表示させながら（ステップＳ２０４）、他のディスプレイにＡＧアニメーションを移動させる（ステップＳ２０５）。音声取得部１１１は、ＡＧアニメーションが移動した他のディスプレイに対応する座席用の取得方法で、音声を取得する制御を開始する（ステップＳ２０６）。音声制御部１１８は、他のディスプレイに移動したＡＧアニメーションがエージェント音声を喋っていると乗員が感じると予測される位置に、音像を定位させる制御を開始する（ステップＳ２０７）。そして、ＡＧアニメーションの移動に伴いエージェント情報を変更する場合、表示制御部１１６は、例えば、ＡＧアニメーションの移動前の画面のエージェント情報の情報量を減らし、ＡＧアニメーションの移動後の画面のエージェント情報の情報量を増やす（ステップＳ２０８）。

一方、ステップＳ２０３において、ＡＧアニメーションの移動指示を受け付けなかった場合、指示受付部１１５は、ＡＧアニメーションが表示されている画面のエージェント情報の一部が操作されたか否かを判定する（ステップＳ２０９）。エージェント情報の一部が操作された場合、表示制御部１１６は、操作されたエージェント情報の一部を、他のディスプレイ（ＡＧアニメーションが表示されていない方のディスプレイ）に表示させる（ステップＳ２１０）。

図１４は、ＡＧアニメーションの移動指示を受け付けた場合の表示制御処理の一例を示すフローチャートである。ここでは、ＡＧアニメーションの移動指示が、ディスプレイに表示されているＡＧアニメーションをタッチする操作である例について説明する。

指示受付部１１５は、運転席用画面５０１に表示されているＡＧアニメーションがタッチ操作されたか否かを判定する（ステップＳ３０１）。運転席用画面５０１に表示されているＡＧアニメーションがタッチ操作された場合、表示制御部１１６は、運転席用画面５０１から助手席用画面６０１にＡＧアニメーションが移動している最中のアニメーションを表示させながら、助手席用画面６０１にＡＧアニメーションを移動させる（ステップＳ３０２）。また、表示制御部１１６は、ブランク状態（エージェントに関する情報を何ら表示していない状態）の助手席用画面６０１に、エージェント情報の詳細（あるいは概要）を表示させる（ステップＳ３０３）。さらに、表示制御部１１６は、運転席用画面５０１にエージェント情報の詳細が表示されている場合、エージェント情報の概要に変更する、あるいは、ブランク状態に変更する（ステップＳ３０４）。ステップＳ３０４において、運転席用画面５０１にエージェント情報の概要が表示されている場合、表示制御部１１６は、ブランク状態に変更してもよい。つまり、ステップＳ３０４において、運転席用画面５０１に表示されているエージェント情報の情報量を減らすように表示を変更する。

一方、ステップＳ３０１において、運転席用画面５０１に表示されているＡＧアニメーションがタッチ操作されない場合、指示受付部１１５は、助手席用画面６０１に表示されているＡＧアニメーションがタッチ操作されたか否かを判定する（ステップＳ３０５）。助手席用画面６０１に表示されているＡＧアニメーションがタッチ操作された場合、表示制御部１１６は、助手席用画面６０１から運転席用画面５０１にＡＧアニメーションが移動している最中のアニメーションを表示させながら、運転席用画面５０１にＡＧアニメーションを移動させる（ステップＳ３０６）。また、表示制御部１１６は、ブランク状態の運転席用画面５０１に、エージェント情報の概要（あるいは詳細）を表示させる（ステップＳ３０７）。さらに、表示制御部１１６は、助手席用画面６０１にエージェント情報の詳細が表示されている場合、エージェント情報の概要に変更する、あるいは、ブランク状態に変更する（ステップＳ３０８）。ステップＳ３０８において、助手席用画面６０１にエージェント情報の概要が表示されている場合、表示制御部１１６は、ブランク状態に変更してもよい。つまり、ステップＳ３０８において、助手席用画面６０１に表示されているエージェント情報の情報量を減らすように表示を変更する。

これに限られず、助手席用画面６０１に表示されているＡＧアニメーションを運転席用画面５０１に移動させる場合、助手席用画面６０１に表示されているエージェント情報をそのままにしてもよく、運転席用画面５０１にはエージェント情報を表示しないようにしてもよい。

上記説明した第１実施形態のエージェント装置１００によれば、エージェントがサービスを提供する場合の車内表示を適切な態様で実現することができる。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

例えば、助手席用画面は、第３ディスプレイ２３に表示されてもよい。

１０ マイク
２０ 表示・操作装置
２１ 第１ディスプレイ
２２ 第２ディスプレイ
２３ 第３ディスプレイ
３０ スピーカユニット
４０ ナビゲーション装置
５０ 車両機器
６０ 車載通信装置
７０ 汎用通信装置
８０ 乗員認識装置
１００ エージェント装置
１１０ 管理部
１１１ 音声取得部
１１２ 音響処理部
１１４ エージェントごとＷＵ判定部
１１５ 指示受付部
１１６ 表示制御部
１１８ 音声制御部
１２０ 起動エージェント選択部
１５０ エージェント機能部
１５２ ペアリングアプリ実行部
２００ エージェントサーバ

Claims (15)

1. 車両の乗員の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、
   前記エージェント機能部に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させる表示制御部と、を備え、
   前記表示制御部は、
   前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる、
   エージェント装置。
2. 前記表示制御部は、
   前記発話をした乗員の前記車両内の位置に基づいて、前記第１表示領域あるいは前記第２表示領域のいずれか一方に、前記アニメーションを表示させる、
   請求項１に記載のエージェント装置。
3. 前記エージェント機能部は、
   前記車両に設けられた一以上のマイクからの出力に基づいて前記乗員の発話を取得し、前記アニメーションが前記第１表示領域に表示されている場合と、前記アニメーションが前記第２表示領域に表示されている場合とで、前記乗員の発話を取得する取得方法を異ならせる、
   請求項１または２に記載のエージェント装置。
4. 前記エージェント機能部は、
   前記第１表示領域あるいは前記第２表示領域のうち、前記アニメーションが表示されている方の表示領域と、着座した乗員の頭部を想定した位置が最も近い座席の乗員による発話に基づいて、前記サービスを提供する、
   請求項１から３のうちいずれか一項に記載のエージェント装置。
5. 前記第１表示領域は、
   前記車両内における位置が、前記第２表示領域よりも運転者の頭部を想定した位置に近い、
   請求項１から４のうちいずれか一項に記載のエージェント装置。
6. 前記表示制御部は、
   前記表示部と一体的に設けられておりタッチ操作を検出する検出部により、少なくとも前記アニメーションに対するタッチ操作が検出された場合、前記アニメーションに対するタッチ操作に応じて、前記アニメーションを移動させる、
   請求項１から５のうちいずれか一項に記載のエージェント装置。
7. 前記表示制御部は、
   前記アニメーションが一方の表示領域から他方の表示領域に移動する場合、前記エージェントが前記一方の表示領域から前記他方の表示領域に移動している最中のアニメーションを、前記表示部に表示させる、
   請求項１から６のうちいずれか一項に記載のエージェント装置。
8. 前記表示制御部は、
   前記乗員の発話に応じて提供するエージェント情報を前記表示部に表示させ、前記アニメーションが表示されている表示領域に前記エージェント情報を表示させる場合と、前記アニメーションが表示されていない表示領域に前記エージェント情報を表示させる場合とで、前記エージェント情報の表示態様を異ならせる、
   請求項１から７のうちいずれか一項に記載のエージェント装置。
9. 前記表示制御部は、
   前記アニメーションの移動に応じて、前記エージェント情報を前記第１表示領域に表示させる場合と、前記エージェント情報を前記第２表示領域に表示させる場合とで、前記エージェント情報の表示態様を異ならせる、
   請求項８に記載のエージェント装置。
10. 前記表示制御部は、
    前記エージェント情報の情報量が異なるように、前記エージェント情報の表示態様を異ならせる、
    請求項８または９に記載のエージェント装置。
11. 前記表示制御部は、
    前記第１表示領域あるいは前記第２表示領域のうち前記アニメーションが移動した方の表示領域に前記エージェント情報の詳細を表示させ、移動する前の前記アニメーションが表示されていた方の表示領域に前記エージェント情報の概要を表示させる、
    請求項８から１０のうちいずれか一項に記載のエージェント装置。
12. 前記表示制御部は、
    前記第２表示領域に表示されている前記エージェント情報の一部が前記乗員により指定された場合、前記第１表示領域の表示を、前記乗員により指定された前記エージェント情報の一部に基づく情報に変更する、
    請求項８から１１のうちいずれか一項に記載のエージェント装置。
13. 前記表示制御部は、
    前記車両の運転状況に応じて、前記第１表示領域と前記第２表示領域との間で、前記アニメーションを移動させる、
    請求項１から１２のうちいずれか一項に記載のエージェント装置。
14. コンピュータが、
    エージェント機能を用いて、車両の乗員の発話に応じて、音声による応答を含むサービスを提供し、
    前記エージェント機能に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させ、
    前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる、
    エージェント装置の制御方法。
15. コンピュータに、
    エージェント機能を用いて、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する処理と、
    前記エージェント機能に対応するエージェントに関するアニメーションを、前記車両内に設けられた表示部に表示させる処理と、
    前記乗員からの指示に応じて、前記表示部が備える第１表示領域と、前記車両内における位置が前記第１表示領域と異なる第２表示領域との間で、前記アニメーションを移動させる処理と、
    を実行させるプログラム。

Images