JP7235554B2 - AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM - Google Patents

AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM Download PDF

Info

Publication number
JP7235554B2
JP7235554B2 JP2019059876A JP2019059876A JP7235554B2 JP 7235554 B2 JP7235554 B2 JP 7235554B2 JP 2019059876 A JP2019059876 A JP 2019059876A JP 2019059876 A JP2019059876 A JP 2019059876A JP 7235554 B2 JP7235554 B2 JP 7235554B2
Authority
JP
Japan
Prior art keywords
connection state
agent
communication
unit
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019059876A
Other languages
Japanese (ja)
Other versions
JP2020160826A (en
Inventor
裕貴 中山
賢吾 内木
佐和子 古屋
善史 我妻
基嗣 久保田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2019059876A priority Critical patent/JP7235554B2/en
Priority to CN202010220816.0A priority patent/CN111757300A/en
Publication of JP2020160826A publication Critical patent/JP2020160826A/en
Application granted granted Critical
Publication of JP7235554B2 publication Critical patent/JP7235554B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/48—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for in-vehicle communication
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/037—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for occupant comfort, e.g. for automatic adjustment of appliances according to personal settings, e.g. seats, mirrors, steering wheel
    • B60R16/0373—Voice control
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/28—Constructional details of speech recognition systems
    • G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/02—Traffic management, e.g. flow control or congestion control
    • H04W28/10—Flow control between communication endpoints
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W36/00—Hand-off or reselection arrangements
    • H04W36/0005—Control or signalling for completing the hand-off
    • H04W36/0055—Transmission or use of information for re-establishing the radio link
    • H04W36/0072—Transmission or use of information for re-establishing the radio link of resource information of target access point
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W36/00—Hand-off or reselection arrangements
    • H04W36/08—Reselecting an access point
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Mechanical Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Navigation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Computer And Data Communications (AREA)
  • Stored Programmes (AREA)
  • Mobile Radio Communication Systems (AREA)

Description

本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。 The present invention relates to an agent device, an agent device control method, and a program.

従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。 Conventionally, there has been disclosed a technology related to an agent function that provides information on driving assistance, vehicle control, other applications, etc., in response to a request from a vehicle occupant while interacting with the occupant of the vehicle (see, for example, Patent Literature 1). .

特開２００６－３３５２３１号公報JP-A-2006-335231

エージェント機能による情報は、少なくとも一部が無線通信によって車両とネットワークとの間で送受信される。しかしながら、通信に係る契約その他の規約によっては、通信量に上限値が設定されている場合がある。このため、一つの通信手段のみ利用する場合、予期せぬ不都合が生じる場合があり、ユーザが安心して利用することができない場合がある。 At least part of the information by the agent function is transmitted and received between the vehicle and the network by wireless communication. However, there are cases where an upper limit is set for the amount of communication, depending on a contract or other rules relating to communication. For this reason, when only one communication means is used, unexpected inconvenience may occur, and the user may not be able to use the system with peace of mind.

本発明は、このような事情を考慮してなされたものであり、より安心できるサポートを行うことができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的の一つとする。 SUMMARY OF THE INVENTION The present invention has been made in consideration of such circumstances, and one of the objects thereof is to provide an agent device, a control method for the agent device, and a program, which can provide more reliable support.

この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
（１）：この発明の一態様に係るエージェント装置は、車両に搭載され、ユーザの発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、車載通信装置を介して前記エージェント機能部をネットワークに接続可能とする車載通信部と、汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とする端末通信部と、前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替える通信制御部と、を備え、前記通信制御部は、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促す、エージェント装置である。 An agent device, an agent device control method, and a program according to the present invention employ the following configuration.
(1): An agent device according to one aspect of the present invention includes an agent function unit that is mounted on a vehicle and that provides a service including voice response in response to a user's utterance; a terminal communication unit capable of connecting the agent function unit to the network via a general-purpose terminal; and the agent function unit connected to the network via the vehicle communication unit. a communication control unit for switching between a first connection state in which connection is established and a second connection state in which the agent function unit is connected to the network via the terminal communication unit; The agent device prompts the user to switch to the second connection state when the amount of communication depending on the state is equal to or greater than a first predetermined amount.

（２）：上記（１）の態様において、前記通信制御部は、前記第１接続状態による通信量が前記第１所定量よりも大きい第２所定量を超えた場合に、前記第１接続状態から前記第２接続状態に切り替えるものである。 (2): In the aspect of (1) above, the communication control unit, when the amount of communication in the first connection state exceeds a second predetermined amount that is larger than the first predetermined amount, to the second connection state.

（３）：上記（１）または（２）の態様において、前記通信制御部は、前記エージェント機能部の使用履歴に基づいて、前記第１接続状態による通信量が前記第１所定量以上となることが予測される場合に、前記第２接続状態に切り替えることを前記ユーザに促すものである。 (3): In the aspect (1) or (2) above, the communication control unit causes the amount of communication in the first connection state to be equal to or greater than the first predetermined amount based on the usage history of the agent function unit. The user is urged to switch to the second connection state when this is expected.

（４）：上記（１）～（３）のうち何れか一つの態様において、前記通信制御部は、前記車両の停車時に前記第２接続状態に切り替えることを前記ユーザに促すものである。 (4): In any one of the aspects (1) to (3) above, the communication control unit prompts the user to switch to the second connection state when the vehicle is stopped.

（５）：上記（４）の態様において、前記通信制御部は、前記車両の運転が所定時間以上継続されることが予測される場合に、前記車両の停車時に前記第２接続状態に切り替えることを前記ユーザに促すものである。 (5): In the aspect of (4) above, the communication control unit switches to the second connection state when the vehicle is stopped when it is predicted that the operation of the vehicle will continue for a predetermined time or longer. to the user.

（６）：上記（１）～（５）のうち何れか一つの態様において、前記通信制御部は、前記第２接続状態に切り替えた場合に、所定周期で所定のデータを送信するものである。 (6): In any one of the aspects (1) to (5) above, the communication control unit transmits predetermined data in a predetermined cycle when switching to the second connection state. .

（７）：本発明の他の態様に係るエージェント装置の制御方法は、エージェント装置が、車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供し、車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とし、端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とし、前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とし、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促す、エージェント装置の制御方法である。 (7): An agent device control method according to another aspect of the present invention is such that the agent device activates an agent function unit mounted on a vehicle, and provides a service including a voice response in response to a user's utterance. an in-vehicle communication unit enables the agent function unit to be connected to the network via an in-vehicle communication device; a terminal communication unit enables the agent function unit to be connected to the network via a general-purpose terminal; a first connection state in which the agent function unit is connected to the network via the terminal communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit; and a method for controlling an agent device, prompting the user to switch to the second connection state when the amount of communication is equal to or greater than a first predetermined amount.

（８）：本発明の他の態様に係るプログラムは、エージェント装置に、車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供させ、車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とさせ、端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とさせ、前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とさせ、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせる、プログラムである。 (8): A program according to another aspect of the present invention causes an agent device to activate an agent function unit installed in a vehicle, provide a service including a voice response in response to a user's utterance, and A communication unit enables the agent function unit to be connected to a network via an in-vehicle communication device, and a terminal communication unit enables the agent function unit to be connected to the network via a general-purpose terminal, and through the in-vehicle communication unit. switching between a first connection state in which the agent function unit is connected to the network and a second connection state in which the agent function unit is connected to the network via the terminal communication unit; A program for performing a notification prompting the user to switch to the second connection state when the amount of communication is equal to or greater than a first predetermined amount.

上記（１）～（８）の態様によれば、利用者に、より安心できるサポートを行うことができる。 According to the above aspects (1) to (8), it is possible to provide the user with more secure support.

エージェント装置１００を含むエージェントシステム１の構成図である。1 is a configuration diagram of an agent system 1 including an agent device 100; FIG. 実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。1 is a diagram showing the configuration of an agent device 100 and devices mounted on a vehicle M according to an embodiment; FIG. 表示・操作装置２０の配置例を示す図である。FIG. 2 is a diagram showing an arrangement example of a display/operation device 20; スピーカユニット３０の配置例を示す図である。3 is a diagram showing an example of arrangement of speaker units 30. FIG. 音像が定位する位置が定まる原理について説明するための図である。FIG. 4 is a diagram for explaining the principle of determining a position where a sound image is localized; 実施形態に係るエージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。1 is a diagram showing the configuration of an agent server 200 and part of the configuration of an agent device 100 according to an embodiment; FIG. 通信量情報１７２の内容の一例を示す図である。4 is a diagram showing an example of the content of traffic information 172. FIG. 履歴情報１７４の内容の一例を示す図である。6 is a diagram showing an example of contents of history information 174. FIG. 乗員に接続状態の切り替えを促す画像ＩＭ１の一例を示す図である。FIG. 10 is a diagram showing an example of an image IM1 prompting an occupant to switch the connection state; 乗員に接続状態が切り替わったことを示す画像ＩＭ２の一例を示す図である。FIG. 11 is a diagram showing an example of an image IM2 indicating that the connection state has been switched to the occupant; エージェント装置１００により実行される処理の流れの一例を示すフローチャートである。4 is a flow chart showing an example of the flow of processing executed by the agent device 100; 通信制御処理の流れの一例を示すフローチャートである。4 is a flowchart showing an example of the flow of communication control processing;

以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、乗員（ユーザの一例）が搭乗する車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。本発明の適用上、必ずしもエージェント装置が複数種類のエージェント機能を有している必要はなく、またエージェント装置は、スマートフォン等の可搬型端末装置（汎用端末）であってもよいが、以下の説明では、車両に搭載された複数種類のエージェント機能を備えたエージェント装置を前提とする。エージェント機能とは、例えば、車両Ｍの乗員と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供や各種機器制御を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントは、それぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器（例えば運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。 Embodiments of an agent device, an agent device control method, and a program according to the present invention will be described below with reference to the drawings. An agent device is a device that implements part or all of the agent system. Below, as an example of an agent device, an agent device that is installed in a vehicle (hereafter referred to as a vehicle M) in which a passenger (an example of a user) boards will be described and that has a plurality of types of agent functions. In applying the present invention, the agent device does not necessarily have to have a plurality of types of agent functions, and the agent device may be a portable terminal device (general-purpose terminal) such as a smart phone. Then, an agent device equipped with multiple types of agent functions installed in a vehicle is assumed. The agent function, for example, provides various information based on requests (commands) included in the utterances of the passengers, controls various devices, and mediates network services while interacting with the passengers of the vehicle M. It is a function. A plurality of types of agents may have different functions, processing procedures, controls, and output modes/contents. In addition, the agent function may include a function of controlling devices in the vehicle (for example, devices related to operation control and vehicle body control).

エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバとが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体（サービス・エンティティ）をエージェントと称する。 The agent function includes, for example, a voice recognition function that recognizes the voice of the crew member (a function that converts voice into text), a natural language processing function (a function that understands the structure and meaning of text), a dialogue management function, and a network It is realized by comprehensively using a network search function or the like for searching other devices or searching a predetermined database held by the device itself. Some or all of these functions may be realized by AI (Artificial Intelligence) technology. Also, part of the configuration for performing these functions (in particular, the voice recognition function and the natural language processing and interpretation function) is an agent server capable of communicating with an in-vehicle communication device of the vehicle M or a general-purpose communication device brought into the vehicle M. It may be mounted on (an external device). In the following description, it is assumed that part of the configuration is installed in the agent server, and that the agent device and the agent server work together to realize the agent system. Also, a service provider entity (service entity) that appears virtually through cooperation between the agent device and the agent server is called an agent.

＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００－１、２００－２、２００－３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。何れのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、互いに異なるエージェントシステムの提供者が運営するものである。したがって、本実施形態におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者等が挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。 <Overall composition>
FIG. 1 is a configuration diagram of an agent system 1 including an agent device 100. As shown in FIG. The agent system 1, for example, comprises an agent device 100 and a plurality of agent servers 200-1, 200-2, 200-3, . The numbers following the hyphen at the end of the code are assumed to be identifiers for distinguishing agents. It may simply be referred to as the agent server 200 when there is no distinction between which agent servers it is. Although three agent servers 200 are shown in FIG. 1, the number of agent servers 200 may be two, or four or more. Each agent server 200 is operated by a different agent system provider. Therefore, the agents in this embodiment are agents implemented by different providers. Providers include, for example, automobile manufacturers, network service providers, e-commerce operators, mobile terminal sellers and manufacturers, etc. Any entity (corporation, organization, individual, etc.) can be the provider of the agent system. can be.

エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ－Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局等の通信網のうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページを取得することができる。 Agent device 100 communicates with agent server 200 via network NW. The network NW includes, for example, the Internet, a cellular network, a Wi-Fi network, a WAN (Wide Area Network), a LAN (Local Area Network), a public line, a telephone line, a radio base station, or some other communication network. include. Various web servers 300 are connected to the network NW, and the agent server 200 or the agent device 100 can acquire web pages from the various web servers 300 via the network NW.

エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。 The agent device 100 communicates with the occupant of the vehicle M, transmits the voice of the occupant to the agent server 200, and presents the response obtained from the agent server 200 to the occupant in the form of voice output or image display.

［車両］
図２は、実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォン等の汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。表示・操作装置２０とスピーカユニット３０のうち少なくとも一方は、「出力部」の一例である。 [vehicle]
FIG. 2 is a diagram showing the configuration of the agent device 100 and equipment mounted on the vehicle M according to the embodiment. The vehicle M includes, for example, one or more microphones 10, a display/operation device 20, a speaker unit 30, a navigation device 40, a vehicle device 50, an in-vehicle communication device 60, an occupant recognition device 80, and an agent device. 100 is installed. In addition, there are cases where a general-purpose communication device 70 such as a smart phone is brought into the vehicle and used as a communication device. These devices are connected to each other by multiplex communication lines such as CAN (Controller Area Network) communication lines, serial communication lines, wireless communication networks, and the like. Note that the configuration shown in FIG. 2 is merely an example, and a part of the configuration may be omitted, or another configuration may be added. At least one of the display/operation device 20 and the speaker unit 30 is an example of an "output section".

マイク１０は、車室内で発せられた音を収集する収音部である。表示・操作装置２０は、画像を表示するとともに、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。表示・操作装置２０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。これらの詳細については後述する。 The microphone 10 is a sound pickup unit that collects sounds emitted inside the vehicle. The display/operation device 20 is a device (or device group) that displays images and can accept input operations. The display/operation device 20 includes, for example, a display device configured as a touch panel. The display/operation device 20 may further include a HUD (Head Up Display) or a mechanical input device. The speaker unit 30 includes, for example, a plurality of speakers (sound output units) arranged at different positions in the vehicle interior. The display/operation device 20 may be shared by the agent device 100 and the navigation device 40 . Details of these will be described later.

ナビゲーション装置４０は、ナビＨＭＩ（Human Machine Interface）と、ＧＰＳ（Global Positioning System）等の位置測位装置と、地図情報を記憶した記憶装置と、経路探索等を行う制御装置（ナビゲーションコントローラ）とを備える。マイク１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。 The navigation device 40 includes a navigation HMI (Human Machine Interface), a positioning device such as a GPS (Global Positioning System), a storage device that stores map information, and a control device (navigation controller) that performs route search and the like. . A part or all of the microphone 10, the display/operation device 20, and the speaker unit 30 may be used as the navigation HMI. The navigation device 40 searches for a route (navigation route) for moving from the position of the vehicle M specified by the positioning device to the destination input by the occupant so that the vehicle M can travel along the route. , the navigation HMI is used to output guidance information. The route finding function may reside in a navigation server accessible via the network NW. In this case, the navigation device 40 acquires a route from the navigation server and outputs guidance information. The agent device 100 may be constructed on the basis of the navigation controller, in which case the navigation controller and the agent device 100 are integrated in terms of hardware.

車両機器５０は、例えば、エンジンや走行用モータ等の駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置および窓の開閉制御装置、シート、シート位置の制御装置、ルームミラーおよびその角度位置制御装置、車両内外の照明装置およびその制御装置、ワイパーやデフォッガーおよびそれぞれの制御装置、方向指示灯およびその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報等の車両情報装置等を含む。また、車両機器５０は、車両Ｍの速度を検出する車速センサや加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、車両Ｍの向きを検出する方位センサ等を含んでもよい。 The vehicle equipment 50 includes, for example, a driving force output device such as an engine and a running motor, an engine starting motor, a door lock device, a door opening/closing device, windows, a window opening/closing device and a window opening/closing control device, a seat, and a seat position control device. Control devices, rearview mirrors and their angular position control devices, lighting devices inside and outside the vehicle and their control devices, wipers and defoggers and their respective control devices, direction indicator lights and their control devices, air conditioners, mileage and tire pressure information and information on remaining amount of fuel, etc. The vehicle device 50 may also include a vehicle speed sensor that detects the speed of the vehicle M, an acceleration sensor that detects acceleration, a yaw rate sensor that detects angular velocity about the vertical axis, a direction sensor that detects the orientation of the vehicle M, and the like.

車載通信装置６０は、例えば、セルラー網やＷｉ－Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。 The vehicle-mounted communication device 60 is, for example, a wireless communication device that can access the network NW using a cellular network or a Wi-Fi network.

汎用通信装置７０は、例えば、スマートフォンやタブレット端末等の外部と通信可能な汎用端末である。汎用通信装置７０は、例えば、テザリング機能またはペアリングアプリ等のプログラムの実行等により、セルラー網やＷｉ－Ｆｉ網の通信網を利用してエージェント装置１００をネットワークＮＷに接続させる。汎用通信装置７０は、例えば、乗員が所有する通信端末であってもよく、車両Ｍまたはエージェントサービスの提供者や管理者から貸与される通信端末でもよい。 The general-purpose communication device 70 is, for example, a general-purpose terminal capable of communicating with the outside, such as a smart phone or a tablet terminal. The general-purpose communication device 70 connects the agent device 100 to the network NW using a communication network such as a cellular network or a Wi-Fi network, for example, by executing a program such as a tethering function or a pairing application. The general-purpose communication device 70 may be, for example, a communication terminal owned by a passenger, or a communication terminal lent by the vehicle M or agent service provider or administrator.

乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置等を含む。着座センサは、座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサ等を含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向き等を認識する。また、乗員認識装置８０は、車室内カメラの画像を解析して、画像に含まれる顔の特徴情報（例えば目、鼻、口、顔の輪郭、形状、色情報）を抽出し、抽出した特徴情報と、記憶部１７０等に予め記憶された乗員特徴情報（不図示）等とを照合して乗員を特定してもよい。乗員特徴情報には、例えば、乗員を識別する識別情報であるユーザＩＤに乗員の特徴情報が対応付けられている。 The occupant recognition device 80 includes, for example, a seat sensor, an in-vehicle camera, an image recognition device, and the like. Seating sensors include a pressure sensor provided under the seat, a tension sensor attached to the seat belt, and the like. The vehicle interior camera is a CCD (Charge Coupled Device) camera or a CMOS (Complementary Metal Oxide Semiconductor) camera provided in the vehicle interior. The image recognition device analyzes the image of the camera inside the vehicle and recognizes the presence or absence of a passenger for each seat, the orientation of the face, and the like. In addition, the occupant recognition device 80 analyzes the image of the vehicle interior camera, extracts facial feature information (for example, eyes, nose, mouth, facial contour, shape, and color information) included in the image, and extracts the extracted feature An occupant may be identified by collating the information with occupant characteristic information (not shown) or the like stored in advance in the storage unit 170 or the like. In the occupant characteristic information, for example, occupant characteristic information is associated with a user ID, which is identification information for identifying the occupant.

図３は、表示・操作装置２０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２２と、第２ディスプレイ２４と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。また、表示・操作装置２０は、更に、インストルメントパネルのうち運転席ＤＳに対面する部分に設けられるメーターディスプレイ２９を含んでもよい。第１ディスプレイ２２と、第２ディスプレイ２４と、ＨＵＤ２８と、メーターディスプレイ２９とを合わせたものは、「表示部」の一例である。 FIG. 3 is a diagram showing an arrangement example of the display/operation device 20. As shown in FIG. The display/operation device 20 includes, for example, a first display 22, a second display 24, and an operation switch ASSY26. The display/operation device 20 may further include a HUD 28 . The display/operation device 20 may further include a meter display 29 provided in a portion of the instrument panel facing the driver's seat DS. A combination of the first display 22, the second display 24, the HUD 28, and the meter display 29 is an example of the "display section".

車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳと助手席ＡＳとの中間辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第２ディスプレイ２４は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第１ディスプレイの下方に設置されている。例えば、第１ディスプレイ２２と第２ディスプレイ２４は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイ等を備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチ等が集積されたものである。ＨＵＤ２８は、例えば、風景に重畳させて画像を視認させる装置であり、一例として、車両Ｍのフロントウインドシールドやコンバイナーに画像を含む光を投光することで、乗員に虚像を視認させる。メーターディスプレイ２９は、例えば、ＬＣＤや有機ＥＬ等であり、速度計や回転速度計等の計器類を表示する。表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。上述した各表示部が表示する内容は、エージェント装置１００によって決定されてよい。 The vehicle M has, for example, a driver's seat DS provided with a steering wheel SW and a passenger's seat AS provided in the vehicle width direction (Y direction in the figure) with respect to the driver's seat DS. The first display 22 is a horizontally long display device that extends from the middle of the instrument panel between the driver's seat DS and the passenger's seat AS to a position facing the left end of the passenger's seat AS. The second display 24 is installed in the middle of the vehicle width direction between the driver's seat DS and the front passenger's seat AS and below the first display. For example, both the first display 22 and the second display 24 are configured as touch panels, and have LCDs (Liquid Crystal Displays), organic ELs (Electroluminescence), plasma displays, etc. as display units. The operation switch ASSY 26 is a combination of dial switches, button switches, and the like. The HUD 28 is, for example, a device that allows an image to be superimposed on the scenery and visually recognized. As an example, the HUD 28 projects light including an image onto the front windshield or combiner of the vehicle M, thereby allowing the occupant to visually recognize the virtual image. The meter display 29 is, for example, an LCD, an organic EL, or the like, and displays instruments such as a speedometer and a tachometer. The display/operation device 20 outputs to the agent device 100 the details of the operation performed by the passenger. The content displayed by each of the display units described above may be determined by the agent device 100 .

図４は、スピーカユニット３０の配置例を示す図である。スピーカユニット３０は、例えば、スピーカ３０Ａ～３０Ｈを含む。スピーカ３０Ａは、運転席ＤＳ側の窓柱（いわゆるＡピラー）に設置されている。スピーカ３０Ｂは、運転席ＤＳに近いドアの下部に設置されている。スピーカ３０Ｃは、助手席ＡＳ側の窓柱に設置されている。スピーカ３０Ｄは、助手席ＡＳに近いドアの下部に設置されている。スピーカ３０Ｅは、右側後部座席ＢＳ１側に近いドアの下部に設置されている。スピーカ３０Ｆは、左側後部座席ＢＳ２側に近いドアの下部に設置されている。スピーカ３０Ｇは、第２ディスプレイ２４の近傍に設置されている。スピーカ３０Ｈは、車室の天井（ルーフ）に設置されている。 FIG. 4 is a diagram showing an arrangement example of the speaker units 30. As shown in FIG. The speaker unit 30 includes, for example, speakers 30A-30H. The speaker 30A is installed on a window pillar (so-called A pillar) on the driver's seat DS side. The speaker 30B is installed under the door near the driver's seat DS. The speaker 30C is installed on the window pillar on the side of the passenger seat AS. The speaker 30D is installed under the door near the passenger seat AS. The speaker 30E is installed under the door near the right rear seat BS1 side. The speaker 30F is installed under the door near the left rear seat BS2. The speaker 30G is installed near the second display 24 . The speaker 30H is installed on the ceiling (roof) of the passenger compartment.

係る配置において、例えば、専らスピーカ３０Ａおよび３０Ｂに音を出力させた場合、音像は運転席ＤＳ付近に定位することになる。「音像が定位する」とは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。また、専らスピーカ３０Ｃおよび３０Ｄに音を出力させた場合、音像は助手席ＡＳ付近に定位することになる。また、専らスピーカ３０Ｅに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｆに音を出力させた場合、音像は車室の上方付近に定位することになる。また、専らスピーカ３０Ｇに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｈに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット３０は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。 In such an arrangement, for example, if the speakers 30A and 30B exclusively output sound, the sound image is localized near the driver's seat DS. "Localizing a sound image" means, for example, determining the spatial position of a sound source perceived by the occupant by adjusting the volume of sound transmitted to the left and right ears of the occupant. Further, when the sound is output exclusively from the speakers 30C and 30D, the sound image is localized near the front passenger seat AS. Further, when the sound is exclusively output from the speaker 30E, the sound image is localized near the front of the vehicle compartment, and when the sound is exclusively output from the speaker 30F, the sound image is localized near the upper part of the vehicle compartment. Become. Further, when the sound is exclusively output from the speaker 30G, the sound image is localized near the front of the vehicle compartment, and when the sound is exclusively output from the speaker 30H, the sound image is localized near the upper part of the vehicle compartment. Become. Not limited to this, the speaker unit 30 can localize a sound image at an arbitrary position in the vehicle compartment by adjusting distribution of sound output from each speaker using a mixer or an amplifier.

［エージェント装置］
図２に戻り、エージェント装置１００は、管理部１１０と、エージェント機能部１５０－１、１５０－２、１５０－３と、切替部１５５と、車載通信部１６０と、テザリング通信部１６２と、ペアリングアプリ実行部１６４と、記憶部１７０とを備える。管理部１１０は、例えば、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、通信制御部１１６と、出力制御部１２０と備える。以下、何れのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。また、以下では、エージェント機能部１５０－１とエージェントサーバ２００－１が協働して出現させるエージェントを「エージェント１」、エージェント機能部１５０－２とエージェントサーバ２００－２が協働して出現させるエージェントを「エージェント２」、エージェント機能部１５０－３とエージェントサーバ２００－３が協働して出現させるエージェントを「エージェント３」と称する場合がある。 [Agent device]
Returning to FIG. 2, agent device 100 includes management unit 110, agent function units 150-1, 150-2, 150-3, switching unit 155, in-vehicle communication unit 160, tethering communication unit 162, pairing An application execution unit 164 and a storage unit 170 are provided. The management unit 110 includes, for example, a sound processing unit 112 , a WU (Wake Up) determination unit 114 for each agent, a communication control unit 116 and an output control unit 120 . Hereinafter, it will simply be referred to as the agent function unit 150 when no distinction is made as to which agent function unit it is. The illustration of three agent function units 150 is merely an example corresponding to the number of agent servers 200 in FIG. 1, and the number of agent function units 150 may be two, or four or more. may be The software arrangement shown in FIG. 2 is simply shown for the sake of explanation, and in practice it is arbitrarily modified so that, for example, the management unit 110 may intervene between the agent function unit 150 and the in-vehicle communication device 60. can do. Also, hereinafter, the agent that the agent function unit 150-1 and the agent server 200-1 make appear in cooperation is "agent 1", and the agent function unit 150-2 and the agent server 200-2 make it appear in cooperation. The agent may be called "agent 2", and the agent made to appear by the cooperation of agent function unit 150-3 and agent server 200-3 may be called "agent 3".

エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。 Each component of the agent device 100 is realized by executing a program (software) by a hardware processor such as a CPU (Central Processing Unit). Some or all of these components are hardware (circuit part; circuitry) or by cooperation of software and hardware. The program may be stored in advance in a storage device (a storage device with a non-transitory storage medium) such as a HDD (Hard Disk Drive) or flash memory, or may be stored in a removable storage such as a DVD or CD-ROM. It may be stored in a medium (non-transitory storage medium) and installed by loading the storage medium into a drive device.

記憶部１７０は、上記の各種記憶装置により実現される。記憶部１７０には、例えば、通信量情報１７２および履歴情報１７４等のデータやプログラムが格納される。通信量情報１７２および履歴情報１７４は、外部装置（例えば、エージェントサーバ２００）に記憶されてもよい。通信量情報１７２および履歴情報１７４の詳細については後述する。 The storage unit 170 is implemented by the various storage devices described above. The storage unit 170 stores data such as traffic information 172 and history information 174 and programs, for example. The traffic information 172 and history information 174 may be stored in an external device (for example, agent server 200). Details of the traffic information 172 and the history information 174 will be described later.

管理部１１０は、ＯＳ（Operating System）やミドルウェア等のプログラムが実行されることで機能する。 The management unit 110 functions by executing programs such as an OS (Operating System) and middleware.

管理部１１０の音響処理部１１２は、マイク１０から収集される音を受け付け、受け付けた音に対して、エージェントごとに予め設定されているウエイクアップワードを認識したり、その他の発話内容を認識するのに適した状態になるように音響処理を行う。ウエイクアップワードとは、例えば、対象のエージェントを起動させるためのワード（単語）やフレーズ等である。ウエイクアップワードは、単体のエージェントを起動させるものでもよく、複数のエージェントを起動させるものでもよい。音響処理とは、例えば、バンドパスフィルタ等のフィルタリングによるノイズ除去や音の増幅等である。また、音響処理部１１２は、音響処理された音声を、エージェントごとＷＵ判定部１１４や起動中のエージェント機能部に出力する。 The sound processing unit 112 of the management unit 110 receives sounds collected from the microphone 10, and recognizes wake-up words preset for each agent and other utterance contents in the received sounds. Acoustic processing is performed so that it is in a state suitable for A wakeup word is, for example, a word or phrase for activating a target agent. The wakeup word may activate a single agent or multiple agents. Acoustic processing includes, for example, noise removal and sound amplification by filtering using a bandpass filter or the like. Further, the sound processing unit 112 outputs the sound-processed voice to the WU determination unit 114 or active agent function unit for each agent.

エージェントごとＷＵ判定部１１４は、エージェント機能部１５０－１、１５０－２、１５０－３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声の意味を認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。 WU determination unit 114 for each agent exists corresponding to each of agent function units 150-1, 150-2, and 150-3, and recognizes a wakeup word predetermined for each agent. The WU determination unit 114 for each agent recognizes the meaning of the voice from the voice (audio stream) that has undergone acoustic processing. First, the WU determination unit 114 for each agent detects a voice section based on the amplitude and zero crossing of the voice waveform in the voice stream. The WU determination unit for each agent 114 may perform segment detection based on speech identification and non-speech identification for each frame based on a Gaussian mixture model (GMM).

次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとＷＵ判定部１１４は、ウエイクアップワードに対応するエージェント機能部１５０を起動させる。なお、エージェントごとＷＵ判定部１１４に相当する機能が、エージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。また、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はない。 Next, the WU determination unit 114 for each agent converts the voice in the detected voice section into text and uses it as character information. Then, the WU determination unit 114 for each agent determines whether or not the textual information corresponds to the wakeup word. When determining that it is a wakeup word, the WU determination unit 114 for each agent activates the agent function unit 150 corresponding to the wakeup word. A function corresponding to the WU determination unit 114 for each agent may be installed in the agent server 200 . In this case, the management unit 110 transmits to the agent server 200 the audio stream that has been acoustically processed by the acoustic processing unit 112, and if the agent server 200 determines that it is a wake-up word, it follows the instruction from the agent server 200. Agent function unit 150 is activated. Further, each agent function unit 150 may be always activated and determine the wakeup word by itself. In this case, the management unit 110 does not need to have the WU determination unit 114 for each agent.

また、エージェントごとＷＵ判定部１１４は、上述した手順と同様の手順で、発話された音声に含まれる終了ワードを認識した場合であり、且つ、終了ワードに対応するエージェントが起動している状態（以下、必要に応じて「起動中」と称する）である場合、起動中のエージェント機能部を終了（停止）させる。なお、エージェントの起動および終了は、例えば、表示・操作装置２０から所定の操作を受け付けることによって実行されてもよいが、以下では、音声による起動および停止の例を説明する。また、起動中のエージェントは、音声の入力を所定時間以上受け付けなかった場合に停止させてもよい。 The WU determination unit 114 for each agent recognizes the end word included in the uttered voice by the same procedure as described above, and the agent corresponding to the end word is activated ( hereinafter referred to as "active" as required), terminates (stops) the active agent function unit. Note that activation and termination of the agent may be executed by receiving a predetermined operation from the display/operation device 20, for example, but an example of activation and termination by voice will be described below. Also, an active agent may be stopped when no voice input is received for a predetermined time.

通信制御部１１６は、エージェント機能部１５０を、ネットワークＮＷに接続可能にするための制御を行う。例えば、通信制御部１１６は、エージェント機能部１５０がネットワークを介して外部装置（例えば、エージェントサーバ２００）と通信を行う場合の接続状態等を制御する。また、通信制御部１１６は、通信が途切れた場合の再接続や、接続状態の切り替え等の制御を行う。通信制御部１１６の機能の詳細については後述する。 The communication control unit 116 controls the agent function unit 150 to be connectable to the network NW. For example, the communication control unit 116 controls the connection state and the like when the agent function unit 150 communicates with an external device (for example, the agent server 200) via the network. In addition, the communication control unit 116 performs control such as reconnection when communication is interrupted, switching of the connection state, and the like. Details of the functions of the communication control unit 116 will be described later.

出力制御部１２０は、通信制御部１１６またはエージェント機能部１５０等からの指示に応じて表示部またはスピーカユニット３０に応答結果等の情報を出力させることで、乗員にサービス等の提供を行う。出力制御部１２０は、例えば、表示制御部１２２と、音声制御部１２４とを備える。 The output control unit 120 provides services and the like to passengers by causing the display unit or the speaker unit 30 to output information such as response results in response to instructions from the communication control unit 116, the agent function unit 150, or the like. The output control section 120 includes, for example, a display control section 122 and an audio control section 124 .

表示制御部１２２は、出力制御部１２０からの指示に応じて表示部の所定の領域に画像を表示させる。表示制御部１２２は、出力制御部１２０の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像（以下、エージェント画像と称する）を生成し、生成したエージェント画像を第１ディスプレイ２２に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。例えば、表示制御部１２２は、乗員認識装置８０により認識された乗員の位置に近い表示領域にエージェント画像を表示させたり、乗員の位置に顔を向けたエージェント画像を生成して表示させてもよい。 The display control section 122 displays an image in a predetermined area of the display section according to an instruction from the output control section 120 . Under the control of the output control unit 120, the display control unit 122 generates, for example, an image of an anthropomorphic agent (hereinafter referred to as an agent image) that communicates with a passenger in the vehicle interior, and displays the generated agent image as the first image. 1 to display on the display 22 . The agent image is, for example, an image of a mode of speaking to a passenger. The agent image may include, for example, a face image that allows at least the viewer (passenger) to recognize the facial expression and facial orientation. For example, the agent image may include parts simulating eyes and nose in the face area, and the facial expression and facial orientation may be recognized based on the positions of the parts in the face area. In addition, the agent image feels three-dimensional, and the viewer can recognize the agent's face orientation by including the head image in the three-dimensional space, and the agent's face by including the image of the body (body and limbs). Actions, behaviors, postures, etc. may be recognized. Also, the agent image may be an animation image. For example, the display control unit 122 may display an agent image in a display area near the position of the passenger recognized by the passenger recognition device 80, or generate and display an agent image facing the position of the passenger. .

音声制御部１２４は、出力制御部１２０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部１２４は、複数のスピーカユニット３０を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近（例えば、２～３［ｃｍ］以内）の位置である。 The audio control unit 124 causes some or all of the speakers included in the speaker unit 30 to output audio according to an instruction from the output control unit 120 . The voice control unit 124 may use a plurality of speaker units 30 to perform control to localize the sound image of the agent's voice at a position corresponding to the display position of the agent's image. The position corresponding to the display position of the agent image is, for example, the position where the passenger is expected to feel that the agent image is speaking the agent voice. ~3 [cm]).

図５は、音像が定位する位置が定まる原理について説明するための図である。図５では、説明を簡略化するために、上述したスピーカ３０Ｂ、３０Ｄ、および３０Ｇを用いる例を示しているが、スピーカユニット３０に含まれる任意のスピーカが使用されてよい。音声制御部１２４は、各スピーカに接続されたアンプ（ＡＭＰ）３２およびミキサー３４を制御して音像を定位させる。例えば、図５に示す空間位置ＭＰ１に音像を定位させる場合、音声制御部１２４は、アンプ３２およびミキサー３４を制御することにより、スピーカ３０Ｂに最大強度の５％の出力を行わせ、スピーカ３０Ｄに最大強度の８０％の出力を行わせ、スピーカ３０Ｇに最大強度の１５％の出力を行わせる。この結果、乗員Ｐの位置からは、図５に示す空間位置ＭＰ１に音像が定位しているように感じることになる。 FIG. 5 is a diagram for explaining the principle of determining the position where the sound image is localized. Although FIG. 5 shows an example using the speakers 30B, 30D, and 30G described above to simplify the explanation, any speaker included in the speaker unit 30 may be used. The audio control unit 124 controls the amplifier (AMP) 32 and the mixer 34 connected to each speaker to localize the sound image. For example, when localizing a sound image at the spatial position MP1 shown in FIG. 80% of the maximum intensity is output, and the speaker 30G is caused to output 15% of the maximum intensity. As a result, the occupant P feels as if the sound image is localized at the spatial position MP1 shown in FIG.

また、図５に示す空間位置ＭＰ２に音像を定位させる場合、音声制御部１２４は、アンプ３２およびミキサー３４を制御することにより、スピーカ３０Ｂに最大強度の４５％の出力を行わせ、スピーカ３０Ｄに最大強度の４５％の出力を行わせ、スピーカ３０Ｇに最大強度の４５％の出力を行わせる。この結果、乗員Ｐの位置からは、図５に示す空間位置ＭＰ２に音像が定位しているように感じることになる。このように、車室内に設けられる複数のスピーカとそれぞれのスピーカから出力される音の大きさを調整することで、音像が定位される位置を変化させることができる。なお、より詳細には、音像の定位する位置は、音源が元々保有している音特性や、車室内環境の情報、頭部伝達関数（HRTF；Head-related transfer function）に基づいて定まるため、音声制御部１２４は、予め官能試験等で得られた最適な出力配分でスピーカユニット３０を制御することで、音像を所定の位置に定位させる。 Further, when localizing the sound image at the spatial position MP2 shown in FIG. 45% of the maximum intensity is output, and the speaker 30G is caused to output 45% of the maximum intensity. As a result, the occupant P feels as if the sound image is localized at the spatial position MP2 shown in FIG. In this manner, by adjusting the loudness of the sound output from each of the speakers provided in the vehicle interior, the position at which the sound image is localized can be changed. In more detail, the localization position of the sound image is determined based on the sound characteristics originally possessed by the sound source, the information of the vehicle interior environment, and the head-related transfer function (HRTF). The sound control unit 124 localizes the sound image at a predetermined position by controlling the speaker unit 30 with the optimum output distribution obtained in advance by a sensory test or the like.

エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両Ｍ（例えば、車両機器５０）を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、例えば、車載通信部１６０を介して車載通信装置６０と連携し、エージェントサーバ２００と通信するものがあってもよく、テザリング通信部１６２またはペアリングアプリ実行部１６４を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。 The agent function unit 150 cooperates with the corresponding agent server 200 to make an agent appear, and provides services including voice responses in response to the utterances of the vehicle occupants. The agent function unit 150 may include those authorized to control the vehicle M (for example, the vehicle device 50). In addition, the agent function unit 150 may have, for example, one that cooperates with the in-vehicle communication device 60 via the in-vehicle communication unit 160 and communicates with the agent server 200, and the tethering communication unit 162 or the pairing application execution unit 164 There may be one that cooperates with the general-purpose communication device 70 via and communicates with the agent server 200 .

例えば、エージェント機能部１５０－１には、車両Ｍ（例えば、車両機器５０）を制御する権限が付与されている。エージェント機能部１５０－１は、車載通信装置６０または汎用通信装置７０を介してエージェントサーバ２００－１と通信する。エージェント機能部１５０－２は、車載通信装置６０または汎用通信装置７０を介してエージェントサーバ２００－２と通信する。エージェント機能部１５０－３は、ペアリングアプリ実行部１６４を介して汎用通信装置７０と連携し、エージェントサーバ２００－３と通信する。 For example, agent function unit 150-1 is authorized to control vehicle M (for example, vehicle device 50). Agent function unit 150-1 communicates with agent server 200-1 via in-vehicle communication device 60 or general-purpose communication device . Agent function unit 150-2 communicates with agent server 200-2 via in-vehicle communication device 60 or general-purpose communication device . Agent function unit 150-3 cooperates with general-purpose communication device 70 via pairing application execution unit 164 and communicates with agent server 200-3.

これらの複数のエージェント機能部１５０には、法律や条例、エージェントを提供する事業者同士の契約等に応じて、車載機器を制御する権限が割り振られる。例えば、エージェント機能部１５０－１には、車両機器５０を制御する権限が付与され、エージェント機能部１５０－２およびエージェント機能部１５０－３には、車両機器５０を制御する権限が付与されていない。すなわち、エージェント機能部１５０－１は、少なくとも車両機器５０の制御を含むサービスをエージェント１として提供し、エージェント機能部１５０－２およびエージェント機能部１５０－３は、少なくとも車両機器５０の制御を含まないサービスをエージェント２やエージェント３として提供する。また、図２の構成では、エージェント装置１００は、エージェント機能部１５０－１および１５０－２が、切替部１５５による切り替えによって、車載通信装置６０または汎用通信装置７０を介してエージェントサーバ２００－１および２００－２と通信を行うが、これに限定されるものではなく、例えば、エージェント機能部１５０－３も車載通信装置６０または汎用通信装置７０を介してエージェントサーバ２００－３と通信を行ってもよい。 These multiple agent function units 150 are assigned the authority to control the vehicle-mounted devices according to laws, ordinances, contracts between agents that provide agents, and the like. For example, the agent function unit 150-1 is authorized to control the vehicle equipment 50, and the agent function units 150-2 and 150-3 are not authorized to control the vehicle equipment 50. . That is, the agent function unit 150-1 provides a service including at least control of the vehicle equipment 50 as the agent 1, and the agent function units 150-2 and 150-3 do not include at least the control of the vehicle equipment 50. Provide services as Agent 2 and Agent 3. 2, the agent function units 150-1 and 150-2 of the agent device 100 are switched by the switching unit 155 to the agent server 200-1 and the agent server 200-1 via the vehicle-mounted communication device 60 or the general-purpose communication device 70. 200-2, but it is not limited to this. good.

切替部１５５は、通信制御部１１６による切り替え指示に基づいて、エージェント装置１００とネットワークＮＷとの接続状態（例えば、エージェント機能部１５０とエージェントサーバ２００との接続状態）を切り替える。 The switching unit 155 switches the connection state between the agent device 100 and the network NW (for example, the connection state between the agent function unit 150 and the agent server 200) based on a switching instruction from the communication control unit 116. FIG.

車載通信部１６０は、例えば、エージェント機能部１５０がネットワークＮＷに接続する場合に、車載通信装置６０を介して通信させる。以下、車載通信装置６０を介してネットワークＮＷに接続する接続状態を「第１接続状態」を称する。車載通信部１６０は、エージェント機能部１５０からの情報を、車載通信装置６０を介してエージェントサーバ２００やその他の外部装置に出力する。また、車載通信部１６０は、車載通信装置６０により出力された情報をエージェント機能部１５０に出力する。 The in-vehicle communication unit 160 communicates via the in-vehicle communication device 60, for example, when the agent function unit 150 connects to the network NW. Hereinafter, the connection state in which the vehicle is connected to the network NW via the in-vehicle communication device 60 is referred to as a "first connection state". The in-vehicle communication unit 160 outputs information from the agent function unit 150 to the agent server 200 and other external devices via the in-vehicle communication device 60 . In-vehicle communication unit 160 also outputs information output from in-vehicle communication device 60 to agent function unit 150 .

テザリング通信部１６２は、「端末通信部」の一例である。テザリング通信部１６２は、Ｂｌｕｅｔｏｏｔｈ（登録商標）、Ｗｉ－Ｆｉ等の無線通信によって汎用通信装置７０と通信を行い、エージェント機能部１５０と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０は、ＵＳＢ（Universal Serial Bus）等を利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。また、テザリング通信部１６２は、汎用通信装置７０のテザリング機能により、汎用通信装置７０の通信網（例えば、セルラー網）を用いてエージェント装置１００（より具体的には、エージェント機能部１５０－１、１５０－２）をネットワークＮＷに接続させる。テザリング通信部１６２は、エージェント機能部１５０により出力される情報を汎用通信装置７０に送信する。また、テザリング通信部１６２は、汎用通信装置７０により送信される情報、例えば応答情報をエージェント機能部１５０に出力する。以下、テザリング通信部１６２および汎用通信装置７０を介してネットワークＮＷに接続する接続状態を「第２接続状態」と称する。第２接続状態は、例えば、汎用通信装置７０のテザリング機能の設定がオン状態（使用許可状態）の場合に実現可能となる。テザリング機能の設定の切り替え（オン／オフ）は、汎用通信装置７０に対するユーザ（例えば、乗員）の操作（手動）によって行われる。また、テザリング通信部１６２は、汎用通信装置７０に設定されるテザリング機能のオン／オフを切り替える機能（自動制御）を備えていてもよい。 The tethering communication unit 162 is an example of a "terminal communication unit". The tethering communication unit 162 communicates with the general-purpose communication device 70 by wireless communication such as Bluetooth (registered trademark) and Wi-Fi, and connects the agent function unit 150 and the general-purpose communication device 70 . The agent function unit 150 may be connected to the general-purpose communication device 70 by wired communication using USB (Universal Serial Bus) or the like. Further, the tethering communication unit 162 uses the tethering function of the general-purpose communication device 70 to connect the agent device 100 (more specifically, the agent function unit 150-1, 150-2) to the network NW. The tethering communication unit 162 transmits information output by the agent function unit 150 to the general-purpose communication device 70 . Also, the tethering communication unit 162 outputs information transmitted by the general-purpose communication device 70 , such as response information, to the agent function unit 150 . Hereinafter, the connection state of connecting to the network NW via the tethering communication unit 162 and the general-purpose communication device 70 will be referred to as a "second connection state". The second connection state can be realized, for example, when the setting of the tethering function of the general-purpose communication device 70 is in the ON state (usage permitted state). Switching (on/off) of the setting of the tethering function is performed (manually) by a user (for example, a passenger) on the general-purpose communication device 70 . Also, the tethering communication unit 162 may have a function (automatic control) for switching on/off of the tethering function set in the general-purpose communication device 70 .

ペアリングアプリ実行部１６４は、例えば、Ｂｌｕｅｔｏｏｔｈによって汎用通信装置７０とペアリングを行い、エージェント機能部１５０－３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０－３は、ＵＳＢ（Universal Serial Bus）等を利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。例えば、ペアリングアプリ実行部１６４によりペアリングアプリを実行することで、汎用通信装置７０内に設けられるエージェント機能部を、エージェント装置１００に設けられる複数のエージェント機能部１５０の一つとして使用することができる。 The pairing application executing unit 164 performs pairing with the general-purpose communication device 70 by Bluetooth, for example, and connects the agent function unit 150-3 and the general-purpose communication device 70. FIG. The agent function unit 150-3 may be connected to the general-purpose communication device 70 by wired communication using USB (Universal Serial Bus) or the like. For example, by executing a pairing application using the pairing application execution unit 164, the agent function unit provided in the general-purpose communication device 70 can be used as one of the plurality of agent function units 150 provided in the agent device 100. can be done.

エージェント機能部１５０－１～１５０－３は、エージェントごとＷＵ判定部１１４による起動指示に基づいて起動し、乗員の発話に対して、エージェントサーバ２００－１～２００－３等を介して乗員の発話の音声に含まれる要求に対する応答内容を生成し、生成した応答内容を出力制御部１２０に出力する。また、エージェント機能部１５０－１～１５０－３は、エージェントサーバ２００－１～２００－３と通信を行う場合には、通信制御部１１６により制御された接続状態によって通信を行う。また、エージェント機能部１５０－１～１５０－３は、エージェントごとＷＵ判定部１１４による制御に基づいて、エージェントを停止させてもよい。 The agent function units 150-1 to 150-3 are activated based on activation instructions from the WU determination unit 114 for each agent, and respond to the utterances of the occupants via the agent servers 200-1 to 200-3 and the like. , and outputs the generated response content to the output control unit 120 . Agent function units 150-1 to 150-3 communicate with agent servers 200-1 to 200-3 according to the connection state controlled by communication control unit . Further, the agent function units 150-1 to 150-3 may stop agents based on the control by the WU determination unit 114 for each agent.

［エージェントサーバ］
図６は、実施形態に係るエージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成とともに、エージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。また、以下では、主にエージェント機能部１５０－１およびエージェントサーバ２００－１を中心として説明するが、他のエージェント機能部やエージェントサーバの組についても、それぞれで実行可能な機能やデータベース等で相違はあるものの、ほぼ同様の流れで処理が実行される。 [Agent server]
FIG. 6 is a diagram showing the configuration of the agent server 200 and part of the configuration of the agent device 100 according to the embodiment. The configuration of the agent server 200 and the operation of the agent function unit 150 and the like will be described below. A description of physical communication from the agent device 100 to the network NW is omitted here. In the following, the agent function unit 150-1 and the agent server 200-1 will be mainly described, but other agent function units and agent server groups also differ in their executable functions and databases. However, the processing is executed in almost the same flow.

エージェントサーバ２００－１は、通信部２１０を備える。通信部２１０は、例えば、ＮＩＣ（Network Interface Card）等のネットワークインターフェースである。更に、エージェントサーバ２００－１は、例えば、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８と、記憶部２５０とを備える。これらの構成要素は、例えば、ＣＰＵ等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。音声認識部２２０と、自然言語処理部２２２とを合わせたものは、「認識部」の一例である。 Agent server 200 - 1 includes communication unit 210 . The communication unit 210 is, for example, a network interface such as a NIC (Network Interface Card). Further, the agent server 200-1 includes, for example, a speech recognition unit 220, a natural language processing unit 222, a dialogue management unit 224, a network search unit 226, a response sentence generation unit 228, and a storage unit 250. These components are implemented by, for example, a hardware processor such as a CPU executing a program (software). Some or all of these components may be realized by hardware (including circuitry) such as LSI, ASIC, FPGA, GPU, etc., or by cooperation of software and hardware. good too. The program may be stored in advance in a storage device such as an HDD or flash memory (a storage device with a non-transitory storage medium), or may be stored in a removable storage medium such as a DVD or CD-ROM (non-transitory storage medium). physical storage medium), and may be installed by mounting the storage medium in a drive device. A combination of the speech recognition unit 220 and the natural language processing unit 222 is an example of a “recognition unit”.

記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、例えば、辞書ＤＢ２５２、パーソナルプロファイル２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８等のデータやプログラムが格納される。 The storage unit 250 is implemented by the various storage devices described above. The storage unit 250 stores data and programs such as a dictionary DB 252, a personal profile 254, a knowledge base DB 256, and a response rule DB 258, for example.

エージェント装置１００において、エージェント機能部１５０－１は、例えば、音響処理部１１２等から入力される音声ストリーム、或いは圧縮や符号化等の処理を行った音声ストリームを、エージェントサーバ２００－１に送信する。エージェント機能部１５０－１は、ローカル処理（エージェントサーバ２００－１を介さない処理）が可能なコマンド（要求内容）が認識できた場合には、コマンドで要求された処理を実行してもよい。ローカル処理が可能なコマンドとは、例えば、エージェント装置１００が備える記憶部１７０を参照することで応答可能なコマンドである。より具体的には、ローカル処理が可能なコマンドとは、例えば、記憶部１７０内に存在する電話帳データ（不図示）から特定者の名前を検索し、合致した名前に対応付けられた電話番号に電話をかける（相手を呼び出す）コマンドである。したがって、エージェント機能部１５０－１は、エージェントサーバ２００－１が備える機能の一部を有してもよい。 In the agent device 100, the agent function unit 150-1 transmits, for example, an audio stream input from the audio processing unit 112 or the like, or an audio stream that has undergone processing such as compression or encoding, to the agent server 200-1. . If the agent function unit 150-1 can recognize a command (request content) that allows local processing (processing not involving the agent server 200-1), the agent function unit 150-1 may execute the processing requested by the command. A command that can be locally processed is, for example, a command that can be responded to by referring to the storage unit 170 provided in the agent device 100 . More specifically, the command that can be locally processed is, for example, searching for the name of a specific person from the telephone directory data (not shown) existing in the storage unit 170, and obtaining the telephone number associated with the matching name. It is a command to make a call to (call the other party). Therefore, agent function unit 150-1 may have some of the functions of agent server 200-1.

音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５２を参照しながら意味解釈を行う。辞書ＤＢ２５２は、例えば、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５２は、例えば、機能辞書２５２Ａと汎用辞書２５２Ｂを含む。機能辞書２５２Ａは、エージェントサーバ２００－１がエージェント機能部１５０－１と協働して実現するエージェント１が提供する機能をカバーするための辞書である。例えば、エージェント１が車載エアコンを制御する機能を提供する場合、機能辞書２５２Ａには、「エアコン」、「空調」、「つける」、「消す」、「温度」、「上げる」、「下げる」、「内気」、「外気」等の単語が、動詞、目的語等の単語種別、および抽象化された意味と対応付けられて登録されている。また、機能辞書２５２Ａには、同時に使用可能であることを示す単語間リンク情報が含まれてよい。汎用辞書２５２Ｂは、エージェント１の提供する機能に限らず、一般的な物事の事象を抽象化された意味と対応付けた辞書である。機能辞書２５２Ａと汎用辞書２５２Ｂのそれぞれは、同義語や類義語の一覧情報を含んでもよい。機能辞書２５２Ａと汎用辞書２５２Ｂとは、複数の言語のそれぞれに対応して用意されてよく、その場合、音声認識部２２０および自然言語処理部２２２は、予め設定されている言語設定に応じた機能辞書２５２Ａおよび汎用辞書２５２Ｂ、並びに文法情報（不図示）を使用する。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正する等、相互に影響し合って行われてよい。 When the voice stream is acquired, the voice recognition unit 220 performs voice recognition and outputs character information converted into text, and the natural language processing unit 222 interprets the meaning of the character information while referring to the dictionary DB 252 . In the dictionary DB 252, for example, abstracted semantic information is associated with character information. The dictionary DB 252 includes, for example, a function dictionary 252A and a general dictionary 252B. The function dictionary 252A is a dictionary for covering functions provided by the agent 1 realized by the agent server 200-1 cooperating with the agent function unit 150-1. For example, when the agent 1 provides a function to control an in-vehicle air conditioner, the function dictionary 252A contains "air conditioner", "air conditioner", "turn on", "turn off", "temperature", "increase", "lower", Words such as "shyness" and "outside air" are registered in association with word types such as verbs and objects, and abstracted meanings. The function dictionary 252A may also include inter-word link information indicating that they can be used simultaneously. The general-purpose dictionary 252B is a dictionary that associates not only functions provided by the agent 1 but also general events with abstracted meanings. Each of the function dictionary 252A and the general dictionary 252B may include synonyms and synonym list information. Function dictionary 252A and general-purpose dictionary 252B may be prepared corresponding to each of a plurality of languages. It uses dictionary 252A and general purpose dictionary 252B, as well as grammatical information (not shown). The processing of the speech recognition unit 220 and the processing of the natural language processing unit 222 are not clearly separated in stage, and the processing result of the natural language processing unit 222 is received and the speech recognition unit 220 corrects the recognition result. It may be done by influencing each other.

自然言語処理部２２２は、音声認識部２２０による認識結果に基づく意味解析の一つとして、音声に含まれる要求に対応するために必要な機能に関する情報（以下、必要機能と称する）を取得する。例えば、認識結果として、「自宅のエアコンをつけて」の意味が認識された場合、自然言語処理部２２２は、辞書ＤＢ２５２等を参照し、必要機能として「家庭機器制御」という機能種別を取得する。そして、自然言語処理部２２２は、取得した必要機能をエージェント機能部１５０－１に出力し、必要機能に対する実行可否の判定結果を取得する。自然言語処理部２２２は、必要機能が実行可能である場合に、要求に対応できるものとして、認識された意味に含まれるコマンドを生成する。 The natural language processing unit 222 acquires information (hereinafter referred to as necessary functions) regarding functions necessary to respond to requests included in speech as one of semantic analysis based on the recognition result by the speech recognition unit 220 . For example, when the meaning of "Turn on the air conditioner at home" is recognized as the recognition result, the natural language processing unit 222 refers to the dictionary DB 252 or the like, and acquires the function type "home appliance control" as the required function. . Then, the natural language processing unit 222 outputs the obtained necessary function to the agent function unit 150-1, and obtains the result of determination as to whether or not the necessary function can be executed. If the required function is executable, the natural language processing unit 222 generates a command included in the recognized meaning as being capable of meeting the request.

例えば、自然言語処理部２２２は、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合に、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。 For example, when the natural language processing unit 222 recognizes meanings such as "today's weather" and "how is the weather?" . As a result, even when the voice of the request has character fluctuations, it is possible to facilitate dialogue that meets the request. In addition, the natural language processing unit 222 may recognize the meaning of character information using artificial intelligence processing such as machine learning processing using probability, or generate a command based on the recognition result.

対話管理部２２４は、入力されたコマンドに基づいて、パーソナルプロファイル２５４や知識ベースＤＢ２５６、応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する応答内容（例えば、乗員への発話内容や出力部から出力する画像、音声）を決定する。パーソナルプロファイル２５４は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴等を含む。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容等）を規定した情報である。 Based on the input command, the dialogue management unit 224 refers to the personal profile 254, the knowledge base DB 256, and the response rule DB 258, and prepares the contents of the response to the occupant of the vehicle M (for example, the contents of the utterance to the occupant and the output from the output unit). image, sound). The personal profile 254 includes passenger's personal information, hobbies and tastes, history of past conversations, etc., which are stored for each passenger. The knowledge base DB 256 is information that defines relationships between things. The response rule DB 258 is information that defines actions (responses, device control contents, etc.) that agents should perform in response to commands.

また、対話管理部２２４は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル２５４と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル２５４には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。 In addition, the dialogue manager 224 may identify the occupant by matching with the personal profile 254 using feature information obtained from the audio stream. In this case, in the personal profile 254, for example, characteristic information of voice is associated with personal information. Voice feature information is, for example, information related to speaking style features such as pitch, intonation, and rhythm (pitch pattern of sound), and feature quantities such as Mel Frequency Cepstrum Coefficients. . The voice feature information is, for example, information obtained by having the occupant utter predetermined words, sentences, or the like at the time of initial registration of the occupant, and recognizing the uttered voice.

対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。 If the command requests information that can be searched via the network NW, the interaction manager 224 causes the network searcher 226 to search. The network search unit 226 accesses various web servers 300 via the network NW and acquires desired information. "Information that can be searched via the network NW" is, for example, the results of evaluations by general users of restaurants around the vehicle M, or the weather forecast according to the location of the vehicle M on that day.

応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、生成した応答文（応答内容）をエージェント装置１００に送信する。また、応答文生成部２２８は、乗員認識装置８０による認識結果をエージェント装置１００から取得し、取得した認識結果によりコマンドを含む発話を行った乗員がパーソナルプロファイル２５４に登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。 The response sentence generation unit 228 generates a response sentence so that the content of the utterance determined by the dialogue management unit 224 is conveyed to the occupant of the vehicle M, and transmits the generated response sentence (response content) to the agent device 100 . Further, the response sentence generation unit 228 acquires the recognition result of the passenger recognition device 80 from the agent device 100 and confirms from the acquired recognition result that the passenger who made the utterance including the command is the passenger registered in the personal profile 254 . If specified, the response may be generated by calling the passenger's name or speaking in a manner similar to that of the passenger.

エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１２４に指示する。また、エージェント機能部１５０は、音声出力に合わせてエージェント画像を生成し、生成したエージェント画像や応答内容に含まれる画像等を表示するように表示制御部１２２に指示する。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。 When the agent function unit 150 acquires the response sentence, the agent function unit 150 instructs the voice control unit 124 to perform voice synthesis and output voice. Further, the agent function unit 150 generates an agent image in accordance with the voice output, and instructs the display control unit 122 to display the generated agent image, the image included in the response content, and the like. In this way, an agent function in which a virtually appearing agent responds to the occupants of the vehicle M is realized.

［通信制御部の機能］
以下、通信制御部１１６の機能の詳細について説明する。なお、以下では、エージェント機能部１５０－１が通信制御部１１６の制御によりネットワークＮＷに接続されたエージェントサーバ２００－１と通信を行う例について説明するものとする。通信制御部１１６は、所定の条件に基づいて車載通信部１６０を介してエージェント機能部１５０－１をネットワークＮＷに接続させる第１接続状態と、テザリング通信部１６２を介してエージェント機能部１５０をネットワークＮＷに接続させる第２接続状態とを切り替える。 [Functions of communication control part]
Details of the functions of the communication control unit 116 will be described below. An example in which agent function unit 150-1 communicates with agent server 200-1 connected to network NW under the control of communication control unit 116 will be described below. Communication control unit 116 establishes a first connection state in which agent function unit 150-1 is connected to network NW via in-vehicle communication unit 160 based on a predetermined condition, and a first connection state in which agent function unit 150-1 is connected to network NW via tethering communication unit 162 based on a predetermined condition. Switching to the second connection state for connecting to the NW.

ここで、エージェント機能部１５０－１は、通常、第１通信状態によってエージェントサーバ２００－１と通信を行う。しかしながら、第１接続状態において使用通信量に、上限値（以下、上限通信量と称する）が設定されている場合には、使用通信量が上限通信量を超えると、その後の通信ができなかったり、通信速度が低速に切り替わる等の通信制限が課せられてしまう。そのため、エージェント機能部１５０－１とエージェントサーバ２００－１との通信が抑制され、乗員への応答に遅延が生じたり、応答ができなくなる可能性がある。そこで、通信制御部１１６は、使用通信量を監視し、使用通信量が上限通信量を超える前に、画像表示または音声出力のうち一方または双方を用いて、接続状態を切り替えるように乗員に促す制御を行う。 Here, agent function unit 150-1 normally communicates with agent server 200-1 in the first communication state. However, if an upper limit value (hereinafter referred to as upper limit communication amount) is set for the used communication amount in the first connection state, if the used communication amount exceeds the upper limit communication amount, subsequent communication may not be possible. , the communication speed is switched to a low speed, etc., and communication restrictions are imposed. Therefore, communication between agent function unit 150-1 and agent server 200-1 is suppressed, and there is a possibility that a response to the passenger may be delayed or become impossible. Therefore, the communication control unit 116 monitors the amount of communication used, and prompts the passenger to switch the connection state using one or both of image display and audio output before the amount of communication used exceeds the upper limit communication amount. control.

具体的には、通信制御部１１６は、接続状態ごとに所定期間における使用通信量をカウントし、カウントした通信量の累積値（以下、累積使用通信量Ｔｕと称する）を通信量情報１７２として記憶する。図７は、通信量情報１７２の内容の一例を示す図である。通信量情報１７２は、例えば、通信状態情報に、上限通信量Ｔｍａｘおよび累積使用通信量Ｔｕが対応付けられている。通信状態情報には、接続状態を識別する情報（例えば、第１接続状態、第２接続状態）が格納される。上限通信量Ｔｍａｘには、予め乗員が通信事象者等と契約した接続状態における所定期間（例えば、１か月）の上限通信量が格納される。また、累積使用通信量Ｔｕには、所定期間における使用通信量の累積値が格納される。接続状態情報および上限通信量Ｔｍａｘは、初期設定時または通信事業者等との契約変更時に設定される。また、累積使用通信量Ｔｕは、所定期間ごとに初期化される。通信量情報１７２には、第１接続状態（車載通信装置６０を介してネットワークＮＷに接続する状態）に対応する上限通信量Ｔｍａｘおよび累積使用通信量Ｔｕのみが格納されてもよい。また、接続状態に対する上限通信量Ｔｍａｘが設定されていない場合、通信制御部１１６は、使用通信量をカウントしたり、通信量情報１７２を記憶しなくてよい。また、通信量情報１７２は、乗員（ユーザ）ごとに格納されてもよい。 Specifically, the communication control unit 116 counts the amount of communication used in a predetermined period for each connection state, and stores the cumulative value of the counted amount of communication (hereinafter referred to as the cumulative amount of communication used Tu) as the communication amount information 172. do. FIG. 7 is a diagram showing an example of the content of the traffic information 172. As shown in FIG. In the traffic information 172, for example, the communication state information is associated with the upper limit traffic Tmax and the cumulative use traffic Tu. Information for identifying the connection state (eg, first connection state, second connection state) is stored in the communication state information. The upper limit of communication volume Tmax stores the upper limit of communication volume for a predetermined period (for example, one month) in a connection state contracted in advance by a passenger with a communication event party or the like. Further, the cumulative amount of traffic used Tu stores the cumulative value of the amount of traffic used in a predetermined period. The connection status information and the upper limit communication amount Tmax are set at the time of initial setting or at the time of contract change with a telecommunications carrier or the like. In addition, the cumulative amount of communication used Tu is initialized every predetermined period. The communication amount information 172 may store only the upper limit communication amount Tmax and the cumulative use communication amount Tu corresponding to the first connection state (connected to the network NW via the in-vehicle communication device 60). Also, when the upper limit traffic volume Tmax for the connection state is not set, the communication control unit 116 does not have to count the traffic volume used or store the traffic volume information 172 . Also, the traffic information 172 may be stored for each passenger (user).

次に、通信制御部１１６は、上限通信量Ｔｍａｘから所定量だけ小さい第１所定量Ｔｈ１を設定する。所定量とは、例えば、上限通信量Ｔｍａｘの約１割程度の量であってもよく、固定値でもよい。通信制御部１１６は、第１接続状態における累積使用通信量Ｔｕが第１所定量Ｔｈ１以上であるか否かを判定し、累積使用通信量Ｔｕが第１所定量Ｔｈ１以上である場合に、第１接続状態から第２接続状態に切り替えるように乗員に促す通知を出力制御部１２０に出力させる。また、通信制御部１１６は、累積使用通信量Ｔｕが第１所定量Ｔｈ１未満である場合には、乗員に接続状態の切り替えを促す通知を行わない。これにより、乗員に汎用通信端末におけるテザリング機能の設定をオン状態に設定させることができ、累積使用通信量Ｔｕが上限通信量Ｔｍａｘを超えた場合に、スムーズに第２接続状態に切り替えることができる。 Next, the communication control unit 116 sets a first predetermined amount Th1 that is smaller than the upper limit communication amount Tmax by a predetermined amount. The predetermined amount may be, for example, about 10% of the upper limit communication amount Tmax, or may be a fixed value. The communication control unit 116 determines whether or not the cumulative amount of traffic Tu in the first connection state is greater than or equal to a first predetermined amount Th1, and if the cumulative amount of traffic Tu is greater than or equal to the first predetermined amount Th1, The output control unit 120 is caused to output a notification prompting the passenger to switch from the first connection state to the second connection state. Further, the communication control unit 116 does not notify the passenger to switch the connection state when the accumulated communication traffic Tu is less than the first predetermined amount Th1. As a result, the occupant can turn on the tethering function of the general-purpose communication terminal, and can smoothly switch to the second connection state when the accumulated traffic volume Tu exceeds the upper limit traffic volume Tmax. .

また、通信制御部１１６は、記憶部１７０に記憶された履歴情報１７４を参照し、エージェント１が実行中の機能に対する過去の使用通信量に基づいて、累積使用通信量Ｔｕが第１所定量Ｔｈ１以上となることが予測されるか否かを判定し、判定結果に基づいて第１接続状態から第２接続状態に切り替えるように乗員に促す通知を出力制御部１２０に出力させてもよい。 Further, the communication control unit 116 refers to the history information 174 stored in the storage unit 170, and based on the past amount of communication used for the function being executed by the agent 1, the cumulative amount of communication used Tu is reduced to the first predetermined amount Th1. It may be determined whether or not the above situation is expected, and based on the determination result, the output control unit 120 may output a notification prompting the passenger to switch from the first connected state to the second connected state.

図８は、履歴情報１７４の内容の一例を示す図である。履歴情報１７４は、例えば、乗員（ユーザ）を識別する識別情報であるユーザＩＤに通信履歴情報が対応付けられている。通信履歴情報には、例えば、日時情報、位置情報、エージェントＩＤ、機能情報、使用通信量が含まれる。日時情報は、例えば、エージェントが機能を実行した日時に関する情報である。日時に関する情報は、例えば、エージェントが実行した機能の実行開始時間である。また、日時に関する情報には、実行開始時間に加えて、終了時間や、機能の実行期間が含まれてもよい。位置情報は、例えば、エージェントが機能を実行したときの車両Ｍの位置に関する情報である。位置情報は、例えば、車両Ｍに搭載されたＧＮＳＳ（Global Navigation Satellite System）受信機等の車両センサ（不図示）により取得される。ＧＮＳＳ受信機は、ＧＮＳＳ衛星から受信した信号に基づいて、車両Ｍの位置を特定する。また、位置情報は、車両Ｍの走行経路や目的地に関する情報が含まれてもよい。エージェントＩＤは、乗員が使用したエージェントを識別する識別情報である。機能情報は、エージェントＩＤにより識別されるエージェントによって実行された機能に関する情報である。また、エージェントの機能には、例えば、ＰＯＩ（Point Of Interest）検索や音楽再生、店舗検索、経路案内、天気予報、スケジュール管理、商品購入、車両機器制御等があるが、これらに限定されるものではない。ＰＯＩ検索とは、例えば、車両の周辺または指定した地域に存在する地物を検索する機能である。地物には、店舗や施設等の他、河、山、植物、橋、鉄道等が含まれる。また、機能には、音楽再生のように複数のエージェントが実行できる機能や、車両機器制御のように特定のエージェントしか実行できない機能が含まれる。使用通信量は、機能の実行時に実際に使用した通信量である。 FIG. 8 is a diagram showing an example of contents of the history information 174. As shown in FIG. In the history information 174, for example, communication history information is associated with a user ID, which is identification information for identifying a passenger (user). The communication history information includes, for example, date and time information, location information, agent ID, function information, and used communication volume. The date and time information is, for example, information about the date and time when the agent executed the function. The date and time information is, for example, the execution start time of the function executed by the agent. In addition to the execution start time, the date and time information may include the end time and the execution period of the function. The location information is, for example, information about the location of the vehicle M when the agent performed the function. The position information is acquired by a vehicle sensor (not shown) such as a GNSS (Global Navigation Satellite System) receiver mounted on the vehicle M, for example. The GNSS receiver locates the vehicle M based on signals received from GNSS satellites. Also, the position information may include information about the travel route of the vehicle M and the destination. The agent ID is identification information that identifies the agent used by the crew. Function information is information about the function performed by the agent identified by the agent ID. Agent functions include, but are not limited to, POI (Point Of Interest) search, music playback, store search, route guidance, weather forecast, schedule management, merchandise purchase, and vehicle device control. isn't it. The POI search is, for example, a function of searching for features that exist around the vehicle or in a specified area. Local features include rivers, mountains, plants, bridges, railroads, etc., in addition to shops and facilities. Functions include functions that can be executed by multiple agents, such as music playback, and functions that can only be executed by specific agents, such as vehicle device control. The amount of communication used is the amount of communication actually used when executing the function.

ここで、例えば、第１接続状態の上限通信量Ｔｍａｘが１[ＧＢ]であり、第１所定量Ｔｈ１が９００[ＭＢ]に設定されているものとする。また、乗員（ユーザＩＤ「Ｐ００１」）が、エージェント１にＰＯＩ検索を実行させるための発話を行い、エージェント１が発話の音声を認識してＰＯＩ検索機能を実行するものとする。この場面において、通信制御部１１６は、乗員のユーザＩＤを取得し、取得したユーザＩＤに基づいて、履歴情報１７４のユーザＩＤを参照し、合致するユーザＩＤに対応付けられた通信履歴情報を取得する。乗員のユーザＩＤは、例えば、乗車時に表示・操作装置２０を用いて乗員により入力されてもよく、乗員認識装置８０により特定された乗員の特徴情報に対応付けられているＩＤでもよい。また、通信制御部１１６は、取得した通信履歴情報の機能情報からＰＯＩ検索に対する使用通信量を参照し、参照した使用通信量と通信量情報１７２の累積使用通信量Ｔｕとの合計通信量が、第１所定量Ｔｈ１以上となるか否かと判定する。 Here, for example, it is assumed that the upper limit communication amount Tmax in the first connection state is 1 [GB] and the first predetermined amount Th1 is set to 900 [MB]. It is also assumed that the passenger (user ID "P001") speaks to cause the agent 1 to perform a POI search, and the agent 1 recognizes the speech and executes the POI search function. In this scene, the communication control unit 116 acquires the user ID of the passenger, refers to the user ID in the history information 174 based on the acquired user ID, and acquires the communication history information associated with the matching user ID. do. The passenger's user ID may be input by the passenger using the display/operation device 20 when boarding, or may be an ID associated with the passenger's characteristic information specified by the passenger recognition device 80, for example. In addition, the communication control unit 116 refers to the communication traffic used for the POI search from the function information in the acquired communication history information, and the total communication traffic of the referenced communication traffic and the accumulated communication traffic Tu of the communication traffic information 172 is It is determined whether or not it is greater than or equal to the first predetermined amount Th1.

なお、同一ユーザに対して同一機能の通信使用履歴が複数存在する場合、通信制御部１１６は、例えば、それぞれの使用通信量の平均値、最大値、または最小値を用いてもよく、通信履歴情報のうち最新の通信履歴情報の使用通信量を用いてもよい。また、同一ユーザに対して同一機能の通信使用履歴が複数存在する場合、通信制御部１１６は、日時情報に含まれる時間帯や位置情報に基づいて、類似度が最も高い通信履歴情報の使用通信量を用いてもよい。 Note that if there are a plurality of communication usage histories for the same function for the same user, the communication control unit 116 may use, for example, the average value, maximum value, or minimum value of the amount of communication used for each. The used communication volume of the latest communication history information among the information may be used. Also, if there are multiple communication usage histories of the same function for the same user, the communication control unit 116 selects the communication history information with the highest degree of similarity based on the time zone and location information included in the date and time information. quantity may be used.

そして、通信制御部１１６は、合計通信量が第１所定量Ｔｈ１以上である場合には、第１接続状態から第２接続状態に切り替えるように乗員に促す通知を出力制御部１２０に出力させ、合計通信量が第１所定量Ｔｈ１未満である場合には、乗員に接続状態の切り替えを促す通知を行わない。図６および図７の例では、履歴情報１７４の機能情報からＰＯＩ検索に対する使用通信量が９０[ＭＢ]であり、累積使用通信量Ｔｕが８５０[ＭＢ]であるため、合計通信量は、９４０[ＭＢ]となり、第１所定量Ｔｈ１の９００[ＭＢ]以上となる。したがって、通信制御部１１６は、出力制御部１２０に第１接続状態から第２接続状態に切り替えるように乗員に促す通知を出力させる。このように、過去の通信履歴に基づいて累積使用通信量Ｔｕが第１所定量Ｔｈ１以上となることを事前に予測して通知することで、累積使用通信量Ｔｕが第１所定量Ｔｈ１以上となってから通知するよりも早く通知することができる。したがって、乗員は、余裕を持って接続状態を切り替えるための操作を行うことができる。 Then, when the total communication traffic is equal to or greater than the first predetermined amount Th1, the communication control unit 116 causes the output control unit 120 to output a notification prompting the passenger to switch from the first connection state to the second connection state, If the total communication traffic is less than the first predetermined amount Th1, the passenger is not notified to switch the connection state. In the example of FIGS. 6 and 7, the amount of communication used for POI search is 90 [MB] from the function information of the history information 174, and the cumulative amount of communication used Tu is 850 [MB], so the total amount of communication is 940 [MB]. [MB], which is equal to or greater than 900 [MB], which is the first predetermined amount Th1. Therefore, the communication control unit 116 causes the output control unit 120 to output a notification prompting the passenger to switch from the first connection state to the second connection state. In this manner, by predicting in advance that the cumulative communication volume Tu will be greater than or equal to the first predetermined volume Th1 based on the past communication history and notifying the user that the cumulative communication volume Tu will be greater than or equal to the first predetermined volume Th1. It is possible to notify earlier than notifying after becoming. Therefore, the occupant can perform the operation for switching the connection state with time to spare.

なお、通信制御部１１６は、上述したように乗員の発話によって実行される機能に対して履歴情報１７４から同一機能の使用通信量を取得するのに代えて（または加えて）、乗員の発話の前に、現在の車両Ｍの走行状態に基づいて、エージェントが近い将来に実行する機能を予測し、予測した機能に対する使用通信量を取得してもよい。例えば、通信制御部１１６は、ユーザＩＤと、現在の日時と、車両Ｍの位置情報と、起動中のエージェントに関する情報とを用いて、履歴情報１７４のユーザＩＤ、日時情報、位置情報、エージェントＩＤを参照し、類似度の最も高い通信履歴情報を取得する。なお、日時情報の比較については、時間帯で比較するようにしてもよい。そして、通信制御部１１６は、取得した通信履歴情報から近い将来に実行される機能を予測すると共に、その使用通信量を取得する。これにより、例えば、昼の１２時前後の時間帯において、乗員は外食するためにエージェントにＰＯＩ検索や店舗検索をさせることが多いといった、乗員の習慣等に基づいて累積使用通信量が第１所定値以上となるか否かを予測することができる。これにより、早めに第２通信状態に切り替えを促すことができ、エージェントによる応答の遅延や応答ができなくなることを抑制することができる。 Note that instead of (or in addition to) acquiring the amount of communication used for the same function from the history information 174 for the function executed by the passenger's utterance as described above, the communication control unit 116 Previously, based on the current running state of the vehicle M, a function to be executed by the agent in the near future may be predicted, and the amount of traffic used for the predicted function may be acquired. For example, the communication control unit 116 uses the user ID, the current date and time, the location information of the vehicle M, and the information about the active agent to obtain the user ID, date and time information, location information, and agent ID of the history information 174 . to obtain the communication history information with the highest degree of similarity. It should be noted that the comparison of date and time information may be made by time zone. Then, the communication control unit 116 predicts a function to be executed in the near future from the acquired communication history information, and acquires the amount of communication used. As a result, for example, in the time zone around 12:00 in the afternoon, the passenger often asks the agent to search for POIs and stores in order to eat out. It is possible to predict whether it will be greater than or equal to the value. As a result, switching to the second communication state can be urged early, and it is possible to prevent the agent from delaying its response or being unable to respond.

次に、出力制御部１２０により乗員に接続状態の切り替えを促す場面について説明する。図９は、乗員に接続状態の切り替えを促す画像ＩＭ１の一例を示す図である。図９の例では、表示制御部１２２により表示部の所定の領域に表示される画像ＩＭ１が示されている。画像ＩＭ１に表示される内容やレイアウト等については、これに限定されるものではない。以下、画像ＩＭ１は、例えば、出力制御部１２０等からの指示に基づいて表示制御部１２２により生成され、第１ディスプレイ２２（表示部の一例）の所定の領域に表示されるものとする。上述の内容は、以降の画像の説明についても同様とする。 Next, a scene in which the output control unit 120 urges the passenger to switch the connection state will be described. FIG. 9 is a diagram showing an example of an image IM1 prompting the passenger to switch the connection state. In the example of FIG. 9, an image IM1 displayed in a predetermined area of the display unit by the display control unit 122 is shown. The contents, layout, etc. displayed in the image IM1 are not limited to this. Hereinafter, it is assumed that the image IM1 is generated by the display control unit 122 based on an instruction from the output control unit 120 or the like, and displayed in a predetermined area of the first display 22 (an example of the display unit). The above description applies to the subsequent description of images as well.

画像ＩＭ１には、例えば、文字情報表示領域Ａ１１と、応答内容表示領域Ａ１２とが含まれる。文字情報表示領域Ａ１１には、例えば、起動中のエージェントを示す情報が表示される。図９の例において、文字情報表示領域Ａ１１には「エージェント１が起動中」という文字情報が表示されている。 The image IM1 includes, for example, a character information display area A11 and a response content display area A12. In the character information display area A11, for example, information indicating the active agent is displayed. In the example of FIG. 9, the character information "agent 1 is running" is displayed in the character information display area A11.

応答内容表示領域Ａ１２には、起動中のエージェントに対応付けられたエージェント画像および乗員に通信状態の切り替えを促す情報が表示される。図９の例において、応答内容表示領域Ａ１２には、エージェント１に対応付けられたエージェント画像ＥＩ１が表示されている。また、応答内容表示領域Ａ１２には、切り替えを促す情報として、「累積使用通信量が上限通信量を超えそうです。」、および「テザリングによる通信を行う場合には対象機器のテザリング機能をオン状態にしてください。」という文字情報が表示されている。なお、表示制御部１２２は、上述した文字情報に加えて、応答内容表示領域Ａ１２に接続状態情報、上限通信量Ｔｍａｘ、および累積使用通信量Ｔｕのうち、少なくとも一つの情報を表示させてもよい。また、音声制御部１２４は、エージェント１によってなされた応答結果の音声を生成し、エージェント画像ＥＩ１の表示位置付近に定位させる音像定位処理を行う。図９の例において、音声制御部１２４は、上述した文字情報に対応する音声を出力させている。出力制御部１２０は、上述した画像表示または音声出力のうち一方または双方の出力を行う。 In the response content display area A12, an agent image associated with the active agent and information prompting the passenger to switch the communication state are displayed. In the example of FIG. 9, the agent image EI1 associated with the agent 1 is displayed in the response content display area A12. In addition, in the response content display area A12, as information prompting switching, "The cumulative amount of traffic used is likely to exceed the upper limit of traffic." Please change it." is displayed. In addition to the text information described above, the display control unit 122 may display at least one of the connection status information, the upper limit communication amount Tmax, and the cumulative use communication amount Tu in the response content display area A12. . Further, the voice control unit 124 performs sound image localization processing to generate a voice of the response result of the agent 1 and localize it near the display position of the agent image EI1. In the example of FIG. 9, the voice control unit 124 outputs voice corresponding to the character information described above. The output control unit 120 performs one or both of the above-described image display and audio output.

上述した通知を行うことで、累積使用通信量Ｔｕが上限通信量Ｔｍａｘを超える前に、累積使用通信量Ｔｕが上限通信量Ｔｍａｘに近づいていることを乗員に把握させ易くすることができ、第２接続状態への切り替えを促すことができる。 By making the above-described notification, it is possible to make it easier for the crew to recognize that the cumulative amount of communication used Tu is approaching the upper limit of communication amount Tmax before the accumulated amount of communication used Tu exceeds the upper limit of communication amount Tmax. Switching to the 2-connection state can be prompted.

また、上述の例では、乗員が対象機器（例えば、汎用通信装置７０）のテザリング機能の設定をオフ状態（使用不可状態）からオン状態（使用許可状態）に設定する場合ことで、第２接続状態での接続が可能となるが、上述したテザリング機能の設定は乗員が手動で行われることが想定される。そのため、出力制御部１２０は、車両機器５０からの情報に基づいて車両Ｍの挙動を取得し、車両Ｍが停車している場合に、乗員に接続状態の切り替えを促す通知を行う。 Further, in the above example, when the occupant sets the tethering function setting of the target device (for example, the general-purpose communication device 70) from the off state (unusable state) to the on state (use permitted state), the second connection However, it is assumed that the setting of the above-described tethering function is manually performed by the passenger. Therefore, the output control unit 120 acquires the behavior of the vehicle M based on the information from the vehicle device 50, and when the vehicle M is stopped, notifies the occupant to switch the connection state.

また、通信制御部１１６は、例えば、ナビゲーション装置４０により目的地およびその経路が設定されている場合に、その設定内容から車両Ｍの運転が所定時間以上継続されることが予測されるか否かを判定し、乗員の運転が所定時間以上継続されることが予測される場合に、運転が開始される前の停車時に、第１接続状態から第２接続状態に切り替えることをユーザに促す通知を行ってもよい。運転が所定時間以上継続されることが予測される場合とは、例えば、目的地までの経路に基づき、渋滞のない高速道路を所定距離以上走行することが予測される場合や、山道等のカーブの多い道を所定距離以上走行すると予測される場合等である。これにより、運転中に乗員に汎用通信装置７０のテザリング機能の設定を切り替える操作を促すことを防止することができる。 Further, for example, when the destination and its route are set by the navigation device 40, the communication control unit 116 determines whether or not it is predicted that the vehicle M will continue to be driven for a predetermined time or longer based on the settings. is determined, and when it is predicted that the occupant will continue to drive for a predetermined time or longer, a notification prompting the user to switch from the first connection state to the second connection state is provided when the vehicle is stopped before the start of driving. you can go The case where it is predicted that the driving will continue for a predetermined time or more, for example, when it is predicted that the driver will drive for a predetermined distance or more on an expressway without traffic congestion based on the route to the destination, or when it is predicted that the vehicle will travel on a curve such as a mountain road. This is the case where it is predicted that the vehicle will travel a predetermined distance or more on a road with many roads. As a result, it is possible to prevent the passenger from being prompted to switch the setting of the tethering function of the general-purpose communication device 70 during driving.

次に、通信制御部１１６は、累積使用通信量Ｔｕが第１所定量Ｔｈ１よりも大きい第２所定量Ｔｈ２を超えたか否かを判定する。以下では、第２所定量Ｔｈ２の一例として、上限通信量Ｔｍａｘを用いて説明するが、第２所定量Ｔｈ２は、第１所定量Ｔｈ１よりも大きく、上限通信量Ｔｍａｘを超えない範囲で任意に設定されてよい。累積使用通信量Ｔｕが第２所定量Ｔｈ２を超えた場合、通信制御部１１６は、切替部１５５に接続状態を第１接続状態から第２接続状態に切り替えさせる。また、通信制御部１１６は、切替部１５５による通信状態の切り替えが完了した場合に、出力制御部１２０に接続状態が切り替わったことを通知させてもよい。 Next, the communication control unit 116 determines whether or not the accumulated traffic volume Tu has exceeded a second predetermined amount Th2 that is larger than the first predetermined amount Th1. Below, as an example of the second predetermined amount Th2, the upper limit communication amount Tmax will be used for explanation. may be set. When the cumulative amount of communication used Tu exceeds the second predetermined amount Th2, the communication control unit 116 causes the switching unit 155 to switch the connection state from the first connection state to the second connection state. Further, when the switching unit 155 has completed switching the communication state, the communication control unit 116 may cause the output control unit 120 to notify that the connection state has been switched.

図１０は、乗員に接続状態が切り替わったことを示す画像ＩＭ２の一例を示す図である。表示制御部１２２により生成される画像ＩＭ２には、例えば、文字情報表示領域Ａ２１と、応答内容表示領域Ａ２２とが含まれる。文字情報表示領域Ａ２１には、例えば、起動中のエージェントを示す情報が表示される。図１０の例において、文字情報表示領域Ａ１１には「エージェント１が起動中」という文字情報が表示されている。 FIG. 10 is a diagram showing an example of an image IM2 indicating that the connection state has been switched to the passenger. The image IM2 generated by the display control unit 122 includes, for example, a character information display area A21 and a response content display area A22. In the character information display area A21, for example, information indicating the active agent is displayed. In the example of FIG. 10, the character information "agent 1 is running" is displayed in the character information display area A11.

応答内容表示領域Ａ２２には、起動中のエージェントに対応付けられたエージェント画像と、接続状態が切り替わったことを通知する情報が表示される。図１０の例において、応答内容表示領域Ａ２２には、エージェント１に対応付けられたエージェント画像ＥＩ１と、「接続状態が切り替わりました。」という文字情報が表示されている。なお、表示制御部１２２は、上述した文字情報に加えて、応答内容表示領域Ａ２２に第２接続状態（テザリングによる接続状態）に切り替わったことを通知する文字情報を表示させてもよい。また、表示制御部１２２は、第１接続状態と第２接続状態とを識別可能なアイコンやマーク等の画像を生成し、生成した画像の表示を切り替えることで、接続状態が切り替わったことを乗員に通知してもよい。また、音声制御部１２４は、エージェント１によってなされた応答結果の音声を生成し、エージェント画像ＥＩ１の表示位置付近に定位させる音像定位処理を行う。図１０の例において、音声制御部１２４は、上述した文字情報に対応する音声を出力させている。出力制御部１２０は、上述した画像表示または音声出力のうち一方または双方の出力を行う。 In the response content display area A22, an agent image associated with the active agent and information notifying that the connection state has been switched are displayed. In the example of FIG. 10, the response content display area A22 displays an agent image EI1 associated with the agent 1 and character information "The connection state has been switched." In addition to the character information described above, the display control unit 122 may display character information notifying that the connection state has been switched to the second connection state (connection state by tethering) in the response content display area A22. In addition, the display control unit 122 generates an image such as an icon or a mark capable of distinguishing between the first connection state and the second connection state, and switches the display of the generated image to notify the passenger that the connection state has been switched. may be notified to Further, the voice control unit 124 performs sound image localization processing to generate a voice of the response result of the agent 1 and localize it near the display position of the agent image EI1. In the example of FIG. 10, the voice control unit 124 outputs voice corresponding to the character information described above. The output control unit 120 performs one or both of the above-described image display and audio output.

上述した通知を行うことで、乗員に接続状態が切り替わったことを把握させることができる。また、接続状態が切り替わることで、エージェントの振る舞いに変化が生じる可能性があることを事前に把握させることができる。 By performing the above-described notification, it is possible to make the passenger understand that the connection state has been switched. In addition, it is possible to let the agent know in advance that there is a possibility that the behavior of the agent will change due to the switching of the connection state.

また、通信制御部１１６は、汎用通信装置７０のテザリング機能の設定がオフ状態であるため第１接続状態から第２接続状態への切り替えができない場合には、その旨を示す情報を出力制御部１２０に出力させてもよく、テザリング通信部１６２により自動で設定をオン状態に切り替えさせた後に第２接続状態に切り替えてもよい。 Further, when the communication control unit 116 cannot switch from the first connection state to the second connection state because the setting of the tethering function of the general-purpose communication device 70 is in the off state, the communication control unit 116 outputs information to that effect to the output control unit. 120, or the tethering communication unit 162 may automatically switch the setting to the ON state and then switch to the second connection state.

なお、第２接続状態としてテザリング機能を用いた場合には、所定時間以上通信が実行されないと接続状態が終了し、通信が切れてしまう場合がある。そこで、通信制御部１１６は、エージェントが起動中の間、所定間隔ごとに所定のデータの送信を行ってもよい。所定のデータとは、例えば、空データまたはエージェントの応答やエージェントサーバ２００の処理において影響がないパケットデータである。所定のデータは、例えば、パケット信号としてエージェント装置１００からエージェントサーバ２００に送信される。所定間隔とは、接続状態が終了にする基準となる所定時間よりも短い時間である。これにより、第２接続状態を維持して、エージェント機能部１５０とエージェントサーバ２００との通信が切断されることを抑制し、応答に関するデータの送受信をスムーズに行うことができる。 Note that when the tethering function is used as the second connection state, the connection state may be terminated and the communication may be cut off if communication is not executed for a predetermined time. Therefore, the communication control unit 116 may transmit predetermined data at predetermined intervals while the agent is running. Predetermined data is, for example, null data or packet data that does not affect the response of the agent or the processing of the agent server 200 . Predetermined data is transmitted from the agent device 100 to the agent server 200 as packet signals, for example. The predetermined interval is a time shorter than a predetermined time that serves as a reference for terminating the connection state. As a result, the second connection state is maintained, disconnection of communication between the agent function unit 150 and the agent server 200 is suppressed, and data regarding responses can be smoothly transmitted and received.

[処理フロー]
図１１は、エージェント装置１００により実行される処理の流れの一例を示すフローチャートである。本フローチャートの処理は、例えば、所定周期或いは所定のタイミングで繰り返し実行されてよい。また、図１１の例では、エージェント装置１００により実行される処理のうち、主にウエイクアップワードによりエージェント１を起動し、乗員の発話に含まれる要求に応答する処理について説明するものとし、エージェント装置１００のエージェント機能部１５０－１と協働して実行されるエージェントサーバ２００－１の処理も含めて説明するものとする。 [Processing flow]
FIG. 11 is a flow chart showing an example of the flow of processing executed by the agent device 100. As shown in FIG. The processing of this flowchart may be repeatedly executed at predetermined intervals or at predetermined timings, for example. In addition, in the example of FIG. 11, among the processes executed by the agent device 100, mainly the processing of activating the agent 1 by a wakeup word and responding to a request included in the utterance of the passenger will be described. The processing of agent server 200-1 executed in cooperation with agent function unit 150-1 of 100 will also be explained.

図１１の例において、まず、エージェントごとＷＵ判定部１１４は、ウエイクアップワードに対応付けられたエージェント１（エージェント機能部１５０－１）を起動させる（ステップＳ１００）。次に、通信制御部１１６は、エージェント機能部１５０－１と、エージェントサーバ２００－１とを所定の接続状態で接続する通信制御処理を行う（ステップＳ１１０）。通信制御処理については、後述する。 In the example of FIG. 11, first, the WU determination unit 114 for each agent activates agent 1 (agent function unit 150-1) associated with the wakeup word (step S100). Next, the communication control unit 116 performs communication control processing to connect the agent function unit 150-1 and the agent server 200-1 in a predetermined connection state (step S110). Communication control processing will be described later.

次に、音響処理部１１２は、マイク１０等により音声を受け付けたか否かを判定する（ステップＳ１２０）。音声を受け付けた場合、音響処理部１１２は、受け付けた音声に対して発話内容を認識するのに適した状態になるように音響処理を行う（ステップＳ１３０）。音響処理された音声は、通信制御処理によるネットワークＮＷの接続状態に基づいて、エージェント機能部１５０－１からエージェントサーバ２００－１に送信される。 Next, the acoustic processing unit 112 determines whether or not the sound has been received by the microphone 10 or the like (step S120). When the voice is received, the acoustic processing unit 112 performs acoustic processing on the received voice so as to make it suitable for recognizing the contents of the utterance (step S130). The sound-processed voice is transmitted from the agent function unit 150-1 to the agent server 200-1 based on the connection state of the network NW by communication control processing.

エージェントサーバ２００－１の音声認識部２２０は、受け付けた音声の認識を行い、音声をテキスト化する（ステップＳ１４０）。次に、自然言語処理部２２２は、テキスト化された文字情報に対する自然言語処理を実行し、文字情報の意味解析を行う（ステップＳ１５０）。次に、自然言語処理部２２２は、意味解析結果に対応する機能を抽出する（ステップＳ１６０）。次に、応答文生成部２２８は、対話管理部２２４やネットワーク検索部２２６に抽出した機能を実行させ（ステップＳ１７０）、乗員の発話に含まれる要求に対応する応答結果を生成する（ステップＳ１８０）。エージェントサーバ２００－１により生成された応答結果は、通信制御処理によるネットワークＮＷの接続状態に基づいて、エージェントサーバ２００－１からエージェント機能部１５０－１に送信される。 The speech recognition unit 220 of the agent server 200-1 recognizes the received speech and converts the speech into text (step S140). Next, the natural language processing unit 222 performs natural language processing on the character information converted into text, and semantically analyzes the character information (step S150). Next, the natural language processing unit 222 extracts a function corresponding to the semantic analysis result (step S160). Next, the response sentence generation unit 228 causes the dialogue management unit 224 and the network search unit 226 to execute the extracted function (step S170), and generates a response result corresponding to the request included in the utterance of the passenger (step S180). . The response result generated by agent server 200-1 is transmitted from agent server 200-1 to agent function unit 150-1 based on the connection state of network NW by communication control processing.

エージェント機能部１５０－１は、エージェントサーバ２００－１から取得した応答結果を出力部に出力させる（ステップＳ１９０）。次に、通信制御部１１６は、エージェント機能部１５０－１と、エージェントサーバ２００－１との間で送受信されたデータに基づいて、通信量情報１７２の累積使用通信量Ｔｕおよび履歴情報１７４を更新する（ステップＳ２００）。ステップＳ２００の処理後、またはステップＳ１２０の処理において音声を受け付けていない場合、エージェント機能部１５０－１は、エージェントの処理を終了させるか否かを判定する（ステップＳ２１０）。エージェントを終了させないと判定された場合には、ステップＳ１１０の処理に戻る。また、また、エージェントを終了させると判定された場合、管理部１１０は、エージェント１を終了させる（ステップＳ２２０）。エージェントを終了させる場合には、例えば、エージェントを終了させる終了ワードの音声を受け付けた場合、エージェントを終了させる車載スイッチが押された場合、マイク１０が音声を受け付けない状態が所定時間以上継続した場合等が含まれる。本フローチャートの処理は、終了する。 The agent function unit 150-1 causes the output unit to output the response result obtained from the agent server 200-1 (step S190). Next, the communication control unit 116 updates the accumulated communication amount Tu of the communication amount information 172 and the history information 174 based on the data transmitted and received between the agent function unit 150-1 and the agent server 200-1. (step S200). After the processing of step S200, or when voice is not accepted in the processing of step S120, the agent function unit 150-1 determines whether or not to end the processing of the agent (step S210). If it is determined not to end the agent, the process returns to step S110. Further, when it is determined to terminate the agent, the management unit 110 terminates the agent 1 (step S220). When the agent is terminated, for example, when the voice of the end word for terminating the agent is received, when the in-vehicle switch for terminating the agent is pressed, or when the state in which the microphone 10 does not receive voice continues for a predetermined time or longer. etc. are included. The processing of this flowchart ends.

図１２は、通信制御処理の流れの一例を示すフローチャートである。図１２の例では、通信制御部１１６は、エージェント機能部１５０－１を第１接続状態または第２接続状態の何れかでネットワークＮＷに接続させるものとして説明する。また、以下では、第１接続状態に上限通信量が設定され、第２接続状態には上限通信量が設定されていない（無制限である）ものとして説明する。 FIG. 12 is a flowchart showing an example of the flow of communication control processing. In the example of FIG. 12, the communication control unit 116 connects the agent function unit 150-1 to the network NW in either the first connection state or the second connection state. Further, in the following description, it is assumed that the upper limit of communication traffic is set in the first connection state and the upper limit of communication traffic is not set in the second connection state (there is no limit).

図１２の例において、通信制御部１１６は、現在の接続状態が第１接続状態か否かを判定する（ステップＳＳ１１１）。第１接続状態であると判定された場合、通信制御部１１６は、累積使用通信量Ｔｕが第１所定量Ｔｈ１以上であるか、または累積使用通信量Ｔｕが第１所定量Ｔｈ１以上になると予測されるか否かを判定する（ステップＳ１１２）。累積使用通信量Ｔｕが第１所定量Ｔｈ１以上であるか、または累積使用通信量Ｔｕが第１所定量Ｔｈ１以上になると予測されると判定された場合、通信制御部１１６は、第１接続状態から第２接続状態に切り替えるように乗員に促す通知を出力制御部１２０に出力させる（ステップＳ１１３）。なお、ステップＳ１１３の処理において、乗員に通信を行う場合、出力制御部１２０は、車両機器５０等から車両Ｍの状態を取得し、車両Ｍが停止した場合に、通知を行ってもよい。 In the example of FIG. 12, the communication control unit 116 determines whether the current connection state is the first connection state (step SS111). When it is determined to be in the first connection state, the communication control unit 116 predicts that the cumulative amount of traffic Tu is greater than or equal to the first predetermined amount Th1, or that the cumulative amount of traffic Tu is greater than or equal to the first predetermined amount Th1. It is determined whether or not to be performed (step S112). If it is determined that the cumulative amount of traffic Tu is greater than or equal to the first predetermined amount Th1, or that the cumulative amount of traffic Tu is expected to be greater than or equal to the first predetermined amount Th1, the communication control unit 116 enters the first connection state. The output control unit 120 outputs a notification prompting the passenger to switch from the second connection state to the second connection state (step S113). In addition, in the process of step S113, when communicating with the passenger, the output control unit 120 may acquire the state of the vehicle M from the vehicle equipment 50 or the like, and notify the vehicle M when the vehicle M stops.

ステップＳ１１３の処理後、またはステップＳ１１２の処理条件を満たさないと判定された場合、通信制御部１１６は、累積使用通信量Ｔｕが上限通信量（第２の所定量の一例）を超えているか否かを判定する（ステップＳ１１４）。累積使用通信量Ｔｕが上限通信量を超えていると判定された場合、通信制御部１１６は、切替部１５５によって接続状態を第１接続状態から第２接続状態に切り替えさせる（ステップＳ１１５）。 After the process of step S113, or when it is determined that the process condition of step S112 is not satisfied, the communication control unit 116 determines whether the cumulative use communication amount Tu exceeds the upper limit communication amount (an example of the second predetermined amount). (Step S114). When it is determined that the accumulated traffic volume Tu exceeds the upper limit traffic volume, the communication control unit 116 causes the switching unit 155 to switch the connection state from the first connection state to the second connection state (step S115).

また、ステップＳ１１１の処理において、第１接続状態でない（第２接続状態である）と判定された場合、通信制御部１１６は、所定期間以上通信されていないか否かを判定する（ステップＳ１１６）。所定期間以上通信されていないと判定された場合、通信制御部１１６は、例えば、空データのパケット信号をエージェントサーバ２００－１に送信し、第２接続状態を維持する（ステップＳ１１７）。これにより、本フローチャートの処理は、終了する。 Further, when it is determined in the processing of step S111 that it is not in the first connection state (it is in the second connection state), the communication control unit 116 determines whether or not communication has been performed for a predetermined period of time or longer (step S116). . If it is determined that there has been no communication for the predetermined period or longer, the communication control unit 116, for example, transmits a packet signal of null data to the agent server 200-1 to maintain the second connection state (step S117). Thus, the processing of this flowchart ends.

また、ステップＳ１１４の処理において、累積使用通信量Ｔｕが上限通信量を超えていないと判定された場合、またはステップＳ１１６の処理において、所定期間未満に通信されていると判定された場合、本フローチャートの処理を終了する。 Further, when it is determined in the process of step S114 that the accumulated traffic volume Tu has not exceeded the upper limit traffic volume, or when it is determined in the process of step S116 that the communication has been performed for less than a predetermined period of time, this flow chart end the processing of

上述した実施形態のエージェント装置１００によれば、車両Ｍに搭載され、乗員の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部１５０と、車載通信装置６０を介してエージェント機能部１５０をネットワークＮＷに接続させる車載通信部１６０と、汎用通信装置７０を介してエージェント機能部１５０をネットワークＮＷに接続させるテザリング通信部１６２（端末通信部の一例）と、車載通信部１６０を介してエージェント機能部１５０をネットワークに接続させる第１接続状態と、テザリング通信部１６２を介してエージェント機能部１５０をネットワークＮＷに接続させる第２接続状態とを切り替える通信制御部１１６と、を備え、通信制御部１１６は、第１接続状態による通信量が第１所定量以上である場合に、第２接続状態に切り替えることを乗員に促すことにより、エージェントによる外部との通信を安定させることができる。その結果、乗員に、より安心できるサポートを提供することができる。 According to the agent device 100 of the above-described embodiment, the agent function unit 150 is mounted on the vehicle M and provides services including voice responses in response to the utterances of the passengers, and the agent function unit 150 to the network NW, a tethering communication unit 162 (an example of a terminal communication unit) that connects the agent function unit 150 to the network NW via the general-purpose communication device 70, and the in-vehicle communication unit 160. A communication control unit 116 for switching between a first connection state in which the agent function unit 150 is connected to the network and a second connection state in which the agent function unit 150 is connected to the network NW via the tethering communication unit 162, and performs communication control. When the amount of communication in the first connection state is equal to or greater than the first predetermined amount, the unit 116 prompts the passenger to switch to the second connection state, thereby stabilizing the agent's communication with the outside. As a result, the occupant can be provided with more secure support.

［変形例］
以下、変形例について説明する。例えば、通信制御部１１６は、上述したように累積使用通信量Ｔｕと上限通信量Ｔｍａｘとの関係に基づいて第１接続状態から第２接続状態への切り替えを行うことに加えて、表示・操作装置２０や汎用通信装置７０等により接続状態の切り替え指示を受け付けた場合に、指示された接続状態の切り替えを行ってもよい。例えば、通信制御部１１６は、汎用通信装置７０のテザリング機能の設定がオフ状態からオン状態に切り替わったタイミングで第１接続状態から第２接続状態に切り替える制御を行う。 [Modification]
Modifications will be described below. For example, the communication control unit 116 switches from the first connection state to the second connection state based on the relationship between the cumulative amount of communication used Tu and the upper limit amount of communication Tmax as described above. When an instruction to switch the connection state is received by the device 20, the general-purpose communication device 70, or the like, the instructed connection state may be switched. For example, the communication control unit 116 performs control to switch from the first connection state to the second connection state at the timing when the setting of the tethering function of the general-purpose communication device 70 is switched from the OFF state to the ON state.

また、他の変形例として通信制御部１１６は、第１接続状態から第２通信状態への切り替えだけでなく、第２接続状態から第１接続状態への切り替えを行ってもよい。この場合、通信制御部１１６は、汎用通信装置７０のテザリング機能の設定がオン状態からオフ状態に切り替わったタイミングで第２接続状態から第１接続状態に切り替える制御を行う。また、通信制御部１１６は、第２接続状態から第１接続状態に切り替わったことを出力制御部１２０に出力させてもよい。 Further, as another modification, the communication control unit 116 may switch not only from the first connection state to the second communication state but also from the second connection state to the first connection state. In this case, the communication control unit 116 performs control to switch from the second connection state to the first connection state at the timing when the setting of the tethering function of the general-purpose communication device 70 is switched from the ON state to the OFF state. Further, the communication control section 116 may cause the output control section 120 to output that the second connection state has been switched to the first connection state.

また、他の変形例として、通信制御部１１６は、第１接続状態から第２接続状態に切り替える場合に、第１接続状態での累積使用通信量Ｔｕが上限通信量Ｔｍａｘを超えて通信制限を受けた場合の通信状態と、第２接続状態での通信状態とを比較し、第２接続状態の方が通信制限を受けた第１接続状態よりも通信状態が良いと判定された場合に、第２接続状態に切り替えてもよい。通信状態とは、例えば、通信速度や電波の受信信号強度（ＲＳＳＩ；Received Signal Strength Indicator）である。通信制御部１１６は、例えば、通信速度が速いほど通信状態が良く、受信信号強度が強いほど通信状態が良いと判定する。これにより、通信制御部１１６は、通信状況に応じて、より適切な接続状態に切り替えることができる。 Further, as another modified example, when switching from the first connection state to the second connection state, the communication control unit 116 restricts communication when the cumulative use communication amount Tu in the first connection state exceeds the upper limit communication amount Tmax. When it is determined that the communication state in the second connection state is better than the communication state in the second connection state when the communication is restricted, You may switch to a 2nd connection state. The communication state is, for example, communication speed or received signal strength indicator (RSSI) of radio waves. For example, the communication control unit 116 determines that the faster the communication speed, the better the communication state, and the stronger the received signal strength, the better the communication state. Thereby, the communication control unit 116 can switch to a more appropriate connection state according to the communication status.

また、第２接続状態による通信が行われる場合には、通信を行わない場合に比して汎用通信装置７０のエネルギー消費（例えば、バッテリー消費）が大きくなる。そのため、乗員は、バッテリー残量が少なくなっている、またはバッテリー残量がない状態に気付かずに汎用通信装置７０が使用できなくなる可能性がある。そこで、他の変形例として、通信制御部１１６は、汎用通信装置７０からエネルギー残量（例えば、汎用通信装置に搭載された二次電池のバッテリー残量）を取得し、エネルギー残量が閾値以下である場合に、第１接続状態から第２接続状態への切り替えを抑制してもよい。また、通信制御部１１６は、第２接続状態による通信の実行中に、バッテリー残量が閾値以下となった場合に、第２接続状態から第１接続状態に切り替える制御を行ってもよい。これにより、汎用通信装置７０のエネルギー残量がなくなることを抑制することができる。 Also, when communication is performed in the second connection state, energy consumption (for example, battery consumption) of the general-purpose communication device 70 is greater than when communication is not performed. Therefore, there is a possibility that the occupant will not be able to use the general-purpose communication device 70 without noticing that the battery is running low or running out. Therefore, as another modified example, the communication control unit 116 acquires the remaining energy amount (for example, the remaining battery amount of the secondary battery installed in the general-purpose communication apparatus) from the general-purpose communication apparatus 70, and determines that the remaining energy amount is equal to or less than the threshold. , the switching from the first connected state to the second connected state may be suppressed. Further, the communication control unit 116 may perform control to switch from the second connection state to the first connection state when the remaining battery level becomes equal to or less than a threshold value during execution of communication in the second connection state. As a result, it is possible to prevent the general-purpose communication device 70 from running out of remaining energy.

また、通信制御部１１６は、汎用通信装置７０のエネルギー残量が閾値以下になった場合に、乗員に汎用通信装置７０の充電またはバッテリー交換（電池交換）を促す通知を出力制御部１２０に出力させてもよい。これにより、汎用通信装置７０のエネルギー残量が少なくなったことを乗員に把握させ易くすることができる。 In addition, when the remaining energy level of the general-purpose communication device 70 becomes equal to or less than the threshold, the communication control unit 116 outputs to the output control unit 120 a notification prompting the passenger to charge the general-purpose communication device 70 or replace the battery (battery replacement). You may let This makes it easier for the occupant to recognize that the remaining energy level of the general-purpose communication device 70 is low.

また、例えば、無線によるテザリング機能を用いて第２接続状態による通信を行う場合には、第１接続状態に比して通信が不安定になり易いため、通信が切断されたり、通信速度が遅くなる可能性がある。そのため、他の変形例として、通信制御部１１６は、エージェントにより実行させる機能が所定の機能であるか否かを判定し、所定の機能であると判定された場合には、第２接続状態への切り替えを抑制してもよい。所定の機能とは、例えば、目的地までの経路検索等のように車両Ｍの挙動との関連性が高い（重要度の高い）機能である。例えば、音楽再生の機能は、車両Ｍの挙動との関連性が低いため、上記所定の機能には含まれない。 Further, for example, when performing communication in the second connection state using a wireless tethering function, communication is more likely to become unstable than in the first connection state. may become. Therefore, as another modification, the communication control unit 116 determines whether or not the function to be executed by the agent is a predetermined function. switching may be suppressed. The predetermined function is, for example, a function that is highly relevant (highly important) to the behavior of the vehicle M, such as searching for a route to a destination. For example, the music playback function is not included in the predetermined functions because it has little relevance to the behavior of the vehicle M.

また、例えば、本実施形態のエージェント装置１００においては、使用可能な接続状態が第１接続状態しかない場合（第２接続状態が使用できない）も有り得る。第１接続状態しかない場合とは、例えば、エージェント装置１００に第２接続状態を実行するための機能そのものを有していない場合や、テザリングによる通信を乗員や車両提供者等が禁止している場合である。この場合、エージェント装置１００は、仮に累積使用通信量Ｔｕが上限通信量Ｔｍａｘを超えて、通信速度が低速になる通信制限が課せられても、エージェントが停止することがないように、エージェントの機能の少なくとも一部を制限する制御を行ってもよい。例えば、エージェント機能部１５０は、通信制限が課せられていない状態では、エージェントサーバ２００で行っていた処理の一部（例えば、音声認識や自然言語処理等）をローカル（車両側）で行う。これにより、音声認識を行わせるための音声ストリームをエージェントサーバ２００に送信する必要がなくなるため通信量を抑制することができる。また、エージェント機能部１５０は、通信制限が課せられている状態では、エージェントサーバ２００から画像や映像等のデータ容量の大きいコンテンツの取得を抑制したり、検索結果の回答数を削減することで、通信量を抑制してもよい。これにより、通信制限が課された状態でエージェントが停止することを抑制することができる。 Further, for example, in the agent device 100 of the present embodiment, there may be a case where only the first connection state can be used (the second connection state cannot be used). The case where there is only the first connection state is, for example, the case where the agent device 100 does not have the function itself for executing the second connection state, or the passenger or vehicle provider prohibits communication by tethering. is the case. In this case, the agent device 100 functions as an agent so that the agent does not stop even if the cumulative amount of traffic Tu exceeds the upper limit of the amount of traffic Tmax and a communication limit is imposed to reduce the communication speed. may be controlled to limit at least a portion of. For example, the agent function unit 150 performs part of the processing (for example, voice recognition, natural language processing, etc.) performed by the agent server 200 locally (on the vehicle side) when no communication restriction is imposed. This eliminates the need to transmit the voice stream for voice recognition to the agent server 200, thereby reducing the amount of communication. In addition, when communication is restricted, the agent function unit 150 suppresses acquisition of content with a large data volume such as images and videos from the agent server 200 and reduces the number of search result responses. Communication traffic may be suppressed. As a result, it is possible to prevent the agent from stopping while the communication restriction is imposed.

また、通信制限が課せられた状態では、エージェントの機能を十分に発揮できない場合が有り得る。そのため、エージェント機能部１５０は、通信制限が課せられている通信状態の場合には、通信制限が課せられていない場合（正常通信状態）に比して、エージェントの出力様態を変更してもよい。出力態様には、例えば、エージェント機能部１５０の制御によって、表示制御部１２２により表示・操作装置２０に出力させるエージェント画像または音声制御部１２４によりスピーカユニット３０に出力させるエージェント音声のうち、一方または双方が含まれる。 In addition, in a state where communication restrictions are imposed, there may be cases where the function of the agent cannot be fully exhibited. Therefore, the agent function unit 150 may change the output mode of the agent in the communication state in which the communication restriction is imposed, compared to the case in which the communication restriction is not imposed (normal communication state). . The output mode includes, for example, one or both of an agent image output to the display/operation device 20 by the display control unit 122 and an agent voice output to the speaker unit 30 by the audio control unit 124 under the control of the agent function unit 150. is included.

例えば、エージェント機能部１５０は、正常通信状態において、成長した大人の人間や動物に擬したエージェント画像を表示させている場合には、通信制限が課せられている通信状態において、デフォルメされた子供の人間や動物に擬したエージェント画像に代えて表示させる。また、エージェント機能部１５０は、例えば、正常通信状態において、挙動や表情が元気な振る舞いを行うエージェント画像を表示させている場合には、通信制限が課せられている通信状態において、元気のない、疲れ切った表情の振る舞いを行うエージェント画像を表示させてもよい。また、エージェント機能部１５０は、正常通信状態と、通信制限が課せられている通信状態とで、エージェント画像の大きさや色を識別可能に変化させてもよい。 For example, when the agent function unit 150 displays an agent image simulating a grown adult human or animal in a normal communication state, the agent function unit 150 displays a deformed child image in a communication state in which communication restrictions are imposed. It is displayed instead of an agent image imitating a human or an animal. In addition, for example, when the agent function unit 150 displays an agent image that behaves and expresses cheerful behavior in a normal communication state, the agent function unit 150 may display an image of an agent that behaves and expresses cheerful behavior in a normal communication state. An agent image that behaves with a tired expression may be displayed. Further, the agent function unit 150 may change the size and color of the agent image so as to distinguish between the normal communication state and the communication state in which the communication restriction is imposed.

なお、上述したエージェント画像やエージェントの振る舞い等の変化の程度は、通信制限の度合に応じて変化させてもよい。例えば、エージェント制御部１５０は、通信制限の度合が小さい場合には、大人の人間を擬したエージェント画像から中学生の人間（学生）を擬したエージェント画像に変化させ、通信制限の度合が大きい場合には、大人を擬したエージェント画像から幼児を擬したエージェント画像に変化させる。また、エージェント機能部１５０は、上述したエージェント画像の変化に応じてエージェント音声を変化させて出力させてもよい。上述したように、通信制限が課せられている場合に、エージェントの出力態様を変更させることで、エージェントが機能を十分に発揮できない場合が有り得ることを、乗員に認識させ易くすることができる。 It should be noted that the degree of change in the agent image and the behavior of the agent described above may be changed according to the degree of communication restriction. For example, when the degree of communication restriction is small, the agent control unit 150 changes an agent image simulating an adult human to an agent image simulating a junior high school student (student). transforms an agent image imitating an adult into an agent image imitating an infant. Further, the agent function unit 150 may change and output the agent voice according to the change in the agent image described above. As described above, when the communication restriction is imposed, by changing the output mode of the agent, it is possible to make the occupant easily recognize that the agent may not be able to perform its functions sufficiently.

また、上述の実施形態において、エージェント装置１００の機能のうち一部または全部は、エージェントサーバ２００に含まれていてもよい。また、エージェントサーバ２００の機能のうち一部または全部は、エージェント装置１００に含まれていてもよい。つまり、エージェント装置１００およびエージェントサーバ２００における機能の切り分けは、各装置の構成要素、エージェントサーバ２００やエージェントシステム１の規模等によって適宜変更されてよい。また、エージェント装置１００およびエージェントサーバ２００における機能の切り分けは、車両Ｍごとまたはエージェントごとに設定されてもよい。 Also, in the above-described embodiments, some or all of the functions of agent device 100 may be included in agent server 200 . Also, part or all of the functions of the agent server 200 may be included in the agent device 100 . In other words, division of functions between the agent device 100 and the agent server 200 may be appropriately changed according to the components of each device, the scale of the agent server 200 and the agent system 1, and the like. Also, the division of functions in agent device 100 and agent server 200 may be set for each vehicle M or each agent.

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。 As described above, the mode for carrying out the present invention has been described using the embodiments, but the present invention is not limited to such embodiments at all, and various modifications and replacements can be made without departing from the scope of the present invention. can be added.

１…エージェントシステム、１０…マイク、２０…表示・操作装置、３０…スピーカユニット、４０…ナビゲーション装置、５０…車両機器、６０…車載通信装置、７０…汎用通信装置、８０…乗員認識装置、１００…エージェント装置、１１０…管理部、１１２…音響処理部、１１４…エージェントごとＷＵ判定部、１１６…通信制御部、１２０…出力制御部、１２２…表示制御部、１２４…音声制御部、１５０…エージェント機能部、１６０…車載通信部、１６２…テザリング通信部、１６４…ペアリングアプリ実行部、１７０、２５０…記憶部、２００…エージェントサーバ、２１０…通信部、２２０…音声認識部、２２２…自然言語処理部、２２４…対話管理部、２２６…ネットワーク検索部、２２８…応答文生成部、３００…各種ウェブサーバ、Ｍ…車両、ＮＷ…ネットワーク DESCRIPTION OF SYMBOLS 1... Agent system 10... Microphone 20... Display and operation apparatus 30... Speaker unit 40... Navigation apparatus 50... Vehicle equipment 60... In-vehicle communication apparatus 70... General-purpose communication apparatus 80... Passenger recognition apparatus 100 ... agent device, 110 ... management section, 112 ... sound processing section, 114 ... WU determination section for each agent, 116 ... communication control section, 120 ... output control section, 122 ... display control section, 124 ... voice control section, 150 ... agent Function unit 160 Vehicle-mounted communication unit 162 Tethering communication unit 164 Pairing application execution unit 170, 250 Storage unit 200 Agent server 210 Communication unit 220 Voice recognition unit 222 Natural language Processing unit 224 Dialogue management unit 226 Network search unit 228 Response sentence generation unit 300 Various web servers M Vehicle NW Network

Claims (12)

車両に搭載され、ユーザの発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、
車載通信装置を介して前記エージェント機能部をネットワークに接続可能とする車載通信部と、
汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とする端末通信部と、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替える通信制御部と、を備え、
前記通信制御部は、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促し、
前記通信制御部は、前記車両の運転が所定時間以上継続されることが予測される場合に、前記車両の停車時に前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置。 an agent function unit that is mounted on a vehicle and provides services including voice responses in response to user's utterances;
an in-vehicle communication unit that enables connection of the agent function unit to a network via an in-vehicle communication device;
a terminal communication unit that enables the agent function unit to be connected to the network via a general-purpose terminal;
A communication control unit that switches between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. and
The communication control unit prompts the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount,
The communication control unit prompts the user to switch to the second connection state when the vehicle is stopped when it is predicted that the vehicle will be driven for a predetermined time or more.
agent device. 車両に搭載され、ユーザの発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、
車載通信装置を介して前記エージェント機能部をネットワークに接続可能とする車載通信部と、
汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とする端末通信部と、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替える通信制御部と、を備え、
前記通信制御部は、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替える理由と前記第２接続状態に切り替えるための操作内容とを含む情報を前記ユーザに通知して前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置。 an agent function unit that is mounted on a vehicle and provides services including voice responses in response to user's utterances;
an in-vehicle communication unit that enables connection of the agent function unit to a network via an in-vehicle communication device;
a terminal communication unit that enables the agent function unit to be connected to the network via a general-purpose terminal;
A communication control unit that switches between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. and
The communication control unit stores information including a reason for switching to the second connection state and an operation content for switching to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount. Notifying the user and prompting the user to switch to the second connection state;
agent device. 車両に搭載され、ユーザの発話に応じて、音声による応答を含むサービスを提供するエージェント機能部と、
車載通信装置を介して前記エージェント機能部をネットワークに接続可能とする車載通信部と、
汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とする端末通信部と、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替える通信制御部と、を備え、
前記通信制御部は、前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促し、
前記通信制御部は、前記エージェント機能部の使用履歴に基づいて、前記第１接続状態による通信量が前記第１所定量以上となることが予測される場合に、前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置。 an agent function unit that is mounted on a vehicle and provides services including voice responses in response to user's utterances;
an in-vehicle communication unit that enables connection of the agent function unit to a network via an in-vehicle communication device;
a terminal communication unit that enables the agent function unit to be connected to the network via a general-purpose terminal;
A communication control unit that switches between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. and
The communication control unit prompts the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount,
The communication control unit switches to the second connection state when the amount of communication in the first connection state is expected to exceed the first predetermined amount based on the usage history of the agent function unit. prompting the user to
agent device. 前記通信制御部は、前記第１接続状態による通信量が前記第１所定量よりも大きい第２所定量を超えた場合に、前記第１接続状態から前記第２接続状態に切り替える、
請求項１から３のうち何れか１項に記載のエージェント装置。 The communication control unit switches from the first connection state to the second connection state when the amount of communication in the first connection state exceeds a second predetermined amount that is larger than the first predetermined amount.
The agent device according to any one of claims 1 to 3 . 前記通信制御部は、前記エージェント機能部の使用履歴に基づいて、前記第１接続状態による通信量が前記第１所定量以上となることが予測される場合に、前記第２接続状態に切り替えることを前記ユーザに促す、
請求項１または２に記載のエージェント装置。 The communication control unit switches to the second connection state when the amount of communication in the first connection state is expected to exceed the first predetermined amount based on the usage history of the agent function unit. prompting the user to
3. The agent device according to claim 1 or 2. 前記通信制御部は、前記第２接続状態に切り替えた場合に、所定周期で所定のデータを送信する、
請求項１から５のうち何れか１項に記載のエージェント装置。 The communication control unit transmits predetermined data in a predetermined cycle when switching to the second connection state.
The agent device according to any one of claims 1 to 5 . エージェント装置が、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供し、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とし、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とし、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とし、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促し、
前記車両の運転が所定時間以上継続されることが予測される場合に、前記車両の停車時に前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置の制御方法。 the agent device
Activating the agent function unit installed in the vehicle and providing services including voice responses according to the user's utterances,
The in-vehicle communication unit enables the agent function unit to be connected to the network via the in-vehicle communication device,
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit;
prompting the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount;
prompting the user to switch to the second connection state when the vehicle is stopped when the vehicle is expected to continue driving for a predetermined time or more;
Control method of agent device. エージェント装置が、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供し、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とし、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とし、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とし、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替える理由と前記第２接続状態に切り替えるための操作内容とを含む情報を前記ユーザに通知して前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置の制御方法。 the agent device
Activating the agent function unit installed in the vehicle and providing services including voice responses according to the user's utterances,
The in-vehicle communication unit enables the agent function unit to be connected to the network via the in-vehicle communication device,
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit;
and notifying the user of information including a reason for switching to the second connection state and an operation content for switching to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount. prompting the user to switch to the second connection state;
Control method of agent device. エージェント装置が、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供し、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とし、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とし、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とし、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促し、
前記エージェント機能部の使用履歴に基づいて、前記第１接続状態による通信量が前記第１所定量以上となることが予測される場合に、前記第２接続状態に切り替えることを前記ユーザに促す、
エージェント装置の制御方法。 the agent device
Activating the agent function unit installed in the vehicle and providing services including voice responses according to the user's utterances,
The in-vehicle communication unit enables the agent function unit to be connected to the network via the in-vehicle communication device,
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit;
prompting the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount;
prompting the user to switch to the second connection state when the amount of communication in the first connection state is predicted to be equal to or greater than the first predetermined amount based on the usage history of the agent function unit;
Control method of agent device. エージェント装置に、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供させ、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とさせ、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とさせ、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とさせ、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせ、
前記車両の運転が所定時間以上継続されることが予測される場合に、前記車両の停車時に前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせる、
プログラム。 to the agent device,
activating an agent function unit installed in the vehicle to provide a service including a voice response in response to the user's utterance;
enabling the agent function unit to be connected to a network via an in-vehicle communication device by the in-vehicle communication unit;
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
Switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. ,
performing a notification prompting the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount ;
causing the user to be notified to switch to the second connection state when the vehicle is stopped when the driving of the vehicle is expected to continue for a predetermined time or longer;
program. エージェント装置に、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供させ、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とさせ、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とさせ、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とさせ、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替える理由と前記第２接続状態に切り替えるための操作内容とを含む情報を前記ユーザに通知させ前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせる、
プログラム。 to the agent device,
activating an agent function unit installed in the vehicle to provide a service including a voice response in response to the user's utterance;
enabling the agent function unit to be connected to a network via an in-vehicle communication device by the in-vehicle communication unit;
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
Switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. ,
and causing the user to be notified of information including a reason for switching to the second connection state and an operation content for switching to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount. causing a notification prompting the user to switch to a second connection state;
program. エージェント装置に、
車両に搭載されたエージェント機能部を起動して、ユーザの発話に応じて、音声による応答を含むサービスを提供させ、
車載通信部により車載通信装置を介して前記エージェント機能部をネットワークに接続可能とさせ、
端末通信部により汎用端末を介して前記エージェント機能部を前記ネットワークに接続可能とさせ、
前記車載通信部を介して前記エージェント機能部を前記ネットワークに接続させる第１接続状態と、前記端末通信部を介して前記エージェント機能部を前記ネットワークに接続させる第２接続状態とを切り替え可能とさせ、
前記第１接続状態による通信量が第１所定量以上である場合に、前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせ、
前記エージェント機能部の使用履歴に基づいて、前記第１接続状態による通信量が前記第１所定量以上となることが予測される場合に、前記第２接続状態に切り替えることを前記ユーザに促す通知を行わせる、
プログラム。 to the agent device,
activating an agent function unit installed in the vehicle to provide a service including a voice response in response to the user's utterance;
enabling the agent function unit to be connected to a network via an in-vehicle communication device by the in-vehicle communication unit;
enabling the agent function unit to be connected to the network via a general-purpose terminal by a terminal communication unit;
Switchable between a first connection state in which the agent function unit is connected to the network via the in-vehicle communication unit and a second connection state in which the agent function unit is connected to the network via the terminal communication unit. ,
performing a notification prompting the user to switch to the second connection state when the amount of communication in the first connection state is equal to or greater than a first predetermined amount ;
A notification prompting the user to switch to the second connection state when the amount of communication in the first connection state is expected to exceed the first predetermined amount based on the usage history of the agent function unit. to do
program.
JP2019059876A 2019-03-27 2019-03-27 AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM Active JP7235554B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019059876A JP7235554B2 (en) 2019-03-27 2019-03-27 AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
CN202010220816.0A CN111757300A (en) 2019-03-27 2020-03-25 Agent device, control method for agent device, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019059876A JP7235554B2 (en) 2019-03-27 2019-03-27 AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM

Publications (2)

Publication Number Publication Date
JP2020160826A JP2020160826A (en) 2020-10-01
JP7235554B2 true JP7235554B2 (en) 2023-03-08

Family

ID=72643474

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019059876A Active JP7235554B2 (en) 2019-03-27 2019-03-27 AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM

Country Status (2)

Country Link
JP (1) JP7235554B2 (en)
CN (1) CN111757300A (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113038440B (en) * 2021-03-15 2023-04-07 杭州涂鸦信息技术有限公司 Communication channel switching method and device, computer equipment and readable storage medium
JP2023073730A (en) * 2021-11-16 2023-05-26 株式会社東海理化電機製作所 Control device, control method, and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012500516A (en) 2008-08-11 2012-01-05 ティーティーアイ インベンションズ ディー エルエルシー System and method for using networked mobile devices in a vehicle
JP2017130750A (en) 2016-01-19 2017-07-27 Ｎｅｃプラットフォームズ株式会社 Communication device, line selection method and program
JP2019009721A (en) 2017-06-28 2019-01-17 シャープ株式会社 Communication system, controller, vehicle, communication method and program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013005151A (en) * 2011-06-15 2013-01-07 Fujitsu Ltd Device, method and program for information communication
CN104918288B (en) * 2014-03-11 2019-02-05 ***通信集团公司 A kind of flow sharing method, equipment and system
CN105263120B (en) * 2015-11-27 2019-02-26 科大讯飞股份有限公司 A kind of prompt can connect the method and system of Wireless LAN
DE102015224837A1 (en) * 2015-12-10 2017-06-14 Volkswagen Aktiengesellschaft Apparatus, methods and computer program for establishing a communication connection between an information system and a mobile device
CN105847610B (en) * 2016-05-30 2019-05-03 Oppo广东移动通信有限公司 A kind of terminal device, call method and phone system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012500516A (en) 2008-08-11 2012-01-05 ティーティーアイ インベンションズ ディー エルエルシー System and method for using networked mobile devices in a vehicle
JP2017130750A (en) 2016-01-19 2017-07-27 Ｎｅｃプラットフォームズ株式会社 Communication device, line selection method and program
JP2019009721A (en) 2017-06-28 2019-01-17 シャープ株式会社 Communication system, controller, vehicle, communication method and program

Also Published As

Publication number Publication date
CN111757300A (en) 2020-10-09
JP2020160826A (en) 2020-10-01

Similar Documents

Publication Publication Date Title
JP7340940B2 (en) Agent device, agent device control method, and program
US20200321000A1 (en) Agent device, system, control method of agent device, and storage medium
JP7239366B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7235554B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7211856B2 (en) AGENT DEVICE, AGENT SYSTEM, SERVER DEVICE, CONTROL METHOD FOR AGENT DEVICE, AND PROGRAM
CN111746435B (en) Information providing apparatus, information providing method, and storage medium
US20200319634A1 (en) Agent device, method of controlling agent device, and storage medium
JP7239359B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7274903B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7222757B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP2020144264A (en) Agent device, control method of agent device, and program
US11437035B2 (en) Agent device, method for controlling agent device, and storage medium
JP7280066B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7175221B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
US11797261B2 (en) On-vehicle device, method of controlling on-vehicle device, and storage medium
CN111731320B (en) Intelligent body system, intelligent body server, control method thereof and storage medium
JP7239365B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP2020142758A (en) Agent device, method of controlling agent device, and program
JP2020160133A (en) Agent system, agent system control method, and program
JP2020152298A (en) Agent device, control method of agent device, and program
JP7274901B2 (en) AGENT DEVICE, CONTROL METHOD OF AGENT DEVICE, AND PROGRAM
JP7297483B2 (en) AGENT SYSTEM, SERVER DEVICE, CONTROL METHOD OF AGENT SYSTEM, AND PROGRAM
CN111824174A (en) Agent device, control method for agent device, and storage medium
JP2020135110A (en) Agent device, control method of agent device, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221028

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230224

R150 Certificate of patent or registration of utility model

Ref document number: 7235554

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150