JPWO2019016878A1 - Operation support apparatus and operation support method - Google Patents

Operation support apparatus and operation support method Download PDF

Info

Publication number
JPWO2019016878A1
JPWO2019016878A1 JP2019530277A JP2019530277A JPWO2019016878A1 JP WO2019016878 A1 JPWO2019016878 A1 JP WO2019016878A1 JP 2019530277 A JP2019530277 A JP 2019530277A JP 2019530277 A JP2019530277 A JP 2019530277A JP WO2019016878 A1 JPWO2019016878 A1 JP WO2019016878A1
Authority
JP
Japan
Prior art keywords
image
switch
indicator
selection switch
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019530277A
Other languages
Japanese (ja)
Other versions
JP6727441B2 (en
Inventor
有史 松田
光生 下谷
直志 宮原
直彦 小畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2019016878A1 publication Critical patent/JPWO2019016878A1/en
Application granted granted Critical
Publication of JP6727441B2 publication Critical patent/JP6727441B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Instrument Panels (AREA)

Abstract

本発明は、運転者が操作機器を注視することなく操作を行えると共に、運転者がどのスイッチを操作すれば良いかを容易に把握することのできる、操作支援装置および操作支援方法の提供を目的とする。本発明の操作支援装置は、操作パネル(22)に対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部(11)と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部(12)と、指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部(13)と、車両に搭載された表示装置(21)に、操作画像を表示させる表示制御部(14)と、を備える。操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す。An object of the present invention is to provide an operation support device and an operation support method that enable a driver to perform an operation without paying attention to an operating device and easily grasp which switch the driver should operate. And The operation support apparatus of the present invention includes an instruction information acquisition unit (11) that acquires instruction information including a position of an indicator relative to an operation panel (22) or an instruction direction of the indicator, and a plurality of operation panels based on the instruction information. A switch selection unit (12) that selects one or more operation switches as a selection switch from among the operation switches, and an operation panel image that represents the arrangement of the plurality of operation switches on the operation panel based on the instruction information. And an operation image creating unit (13) for creating an operation image, and a display control unit (14) for displaying the operation image on the display device (21) mounted on the vehicle. The operation image represents a non-selection switch that is an operation switch that is not a selection switch and a selection switch in different modes.

Description

本発明は、操作支援装置および操作支援方法に関する。   The present invention relates to an operation support apparatus and an operation support method.

特許文献1には、運転者の手を撮影し、撮影画像を操作機器のスイッチ配列画像に重畳して表示装置に表示させることにより、運転者が運転中に操作機器を注視することなく操作を行える技術が開示されている。   In Patent Document 1, the driver's hand is photographed, and the photographed image is superimposed on the switch array image of the operating device and displayed on the display device, so that the driver can operate without gazing at the operating device while driving. Techniques that can be performed are disclosed.

特開2000−6687号公報JP 2000-6687 A

特許文献1の技術では、スイッチ配列画像を無加工で表示しているため、操作機器が有するスイッチが多く複雑である場合に、運転者はどのスイッチを押せばよいかが分かりにくいという問題があった。   In the technique of Patent Document 1, since the switch array image is displayed without processing, there is a problem that it is difficult for the driver to know which switch to press when the operating device has many switches and is complicated. .

本発明は上述の問題に鑑み、運転者が操作機器を注視することなく操作を行えると共に、運転者がどのスイッチを操作すれば良いかを容易に把握することのできる、操作支援装置および操作支援方法の提供を目的とする。   In view of the above-described problems, the present invention enables an operation support apparatus and operation support that enable a driver to perform an operation without paying attention to an operation device and easily understand which switch the driver should operate. The purpose is to provide a method.

本発明に係る操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。   The operation support device according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. An instruction information acquisition unit for acquiring instruction information including the specified direction, a switch selection unit for selecting one or more operation switches as a selection switch from among a plurality of operation switches of the operation panel based on the instruction information, and an instruction An operation image creation unit that creates an operation image by combining an indicator image representing a body with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on the instruction information, and a display device mounted on the vehicle A display control unit that displays an operation image, and the operation image is different from a non-selection switch that is an operation switch that is not a selection switch, and a selection switch. Is an image that represents.

本発明に係る操作支援方法は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得し、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択し、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、車両に搭載された表示装置に、操作画像を表示させる、操作支援方法であって、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。   The operation support method according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. The instruction information including the instruction direction is acquired, and based on the instruction information, one or a plurality of operation switches are selected as a selection switch from among the plurality of operation switches of the operation panel, and an indicator image representing the indicator is indicated. An operation support method for creating an operation image by combining with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on information, and displaying the operation image on a display device mounted on the vehicle, The operation image is an image that represents a non-selection switch and a selection switch, which are operation switches that are not selection switches, in different modes.

本発明に係る操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。本発明に係る操作支援装置によれば、運転者が操作機器を注視することなく操作を行えると共に、運転者がどの操作スイッチを操作すれば良いかを容易に把握することができる。   The operation support device according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. An instruction information acquisition unit for acquiring instruction information including the specified direction, a switch selection unit for selecting one or more operation switches as a selection switch from among a plurality of operation switches of the operation panel based on the instruction information, and an instruction An operation image creation unit that creates an operation image by combining an indicator image representing a body with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on the instruction information, and a display device mounted on the vehicle A display control unit that displays an operation image, and the operation image is different from a non-selection switch that is an operation switch that is not a selection switch, and a selection switch. Is an image that represents. According to the operation support device of the present invention, the driver can perform an operation without paying attention to the operation device, and can easily grasp which operation switch the driver should operate.

本発明に係る操作支援方法は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得し、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択し、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、車両に搭載された表示装置に、操作画像を表示させる、操作支援方法であって、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。本発明に係る操作支援方法によれば、運転者が操作機器を注視することなく操作を行えると共に、運転者がどの操作スイッチを操作すれば良いかを容易に把握することができる。   The operation support method according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. The instruction information including the instruction direction is acquired, and based on the instruction information, one or a plurality of operation switches are selected as a selection switch from among the plurality of operation switches of the operation panel, and an indicator image representing the indicator is indicated. An operation support method for creating an operation image by combining with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on information, and displaying the operation image on a display device mounted on the vehicle, The operation image is an image that represents a non-selection switch and a selection switch, which are operation switches that are not selection switches, in different modes. According to the operation support method according to the present invention, the driver can perform an operation without paying attention to the operation device, and can easily grasp which operation switch the driver should operate.

本発明の目的、特徴、態様、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。   Objects, features, aspects, and advantages of the present invention will become more apparent from the following detailed description and the accompanying drawings.

実施の形態1に係る操作支援装置の構成を示すブロック図である。1 is a block diagram illustrating a configuration of an operation support apparatus according to Embodiment 1. FIG. 実施の形態1に係る操作支援装置の動作を示すフローチャートである。3 is a flowchart showing an operation of the operation support apparatus according to the first embodiment. 実施の形態2に係る操作支援装置の構成を示すブロック図である。6 is a block diagram illustrating a configuration of an operation support apparatus according to Embodiment 2. FIG. 操作パネルを示す図である。It is a figure which shows an operation panel. 操作画像を示す図である。It is a figure which shows an operation image. 操作画像を示す図である。It is a figure which shows an operation image. 操作画像を示す図である。It is a figure which shows an operation image. 操作画像を示す図である。It is a figure which shows an operation image. 実施の形態2の変形例1に係る操作支援装置の構成を示すブロック図である。FIG. 10 is a block diagram illustrating a configuration of an operation support apparatus according to a first modification of the second embodiment. 実施の形態2の変形例1のスイッチ選択部による選択スイッチの選択処理に関するフローチャートである。10 is a flowchart regarding selection switch selection processing by a switch selection unit according to Modification 1 of Embodiment 2; 操作画像を示す図である。It is a figure which shows an operation image. 実施の形態2の変形例2に係る操作支援装置の構成を示すブロック図である。FIG. 10 is a block diagram illustrating a configuration of an operation support apparatus according to a second modification of the second embodiment. 実施の形態2の変形例2のスイッチ選択部による選択スイッチの選択処理に関するフローチャートである。10 is a flowchart regarding selection switch selection processing by a switch selection unit according to a second modification of the second embodiment. 実施の形態3に係る操作支援装置の構成を示すブロック図である。10 is a block diagram illustrating a configuration of an operation support apparatus according to Embodiment 3. FIG. 実施の形態3に係る操作支援装置の動作を示すフローチャートである。10 is a flowchart illustrating an operation of the operation support apparatus according to the third embodiment. 運転者がプッシュ操作を行う際の操作画像を示す図である。It is a figure which shows the operation image at the time of a driver | operator performing push operation. 運転者がダイヤル操作を行う際の操作画像を示す図である。It is a figure which shows the operation image at the time of a driver | operator performing dial operation. 操作支援装置のハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of an operation assistance apparatus. 操作支援装置のハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of an operation assistance apparatus. 実施の形態1の操作支援装置の車両とサーバによる構成例を示す図である。It is a figure which shows the structural example by the vehicle and server of the operation assistance apparatus of Embodiment 1. FIG.

<A.実施の形態1>
<A−1.構成>
図1は、実施の形態1に係る操作支援装置101の構成を示すブロック図である。操作支援装置101は、車両Aの運転者が操作パネル22を使って、車両Aに搭載された操作対象装置23を操作する際に、その操作を支援する装置である。操作対象装置23は、例えばエアコン、オーディオまたはナビゲーション装置などである。
<A. Embodiment 1>
<A-1. Configuration>
FIG. 1 is a block diagram illustrating a configuration of an operation support apparatus 101 according to the first embodiment. The operation support device 101 is a device that supports the operation when the driver of the vehicle A operates the operation target device 23 mounted on the vehicle A using the operation panel 22. The operation target device 23 is, for example, an air conditioner, an audio, or a navigation device.

図1では操作支援装置101を車両Aに搭載された装置として示しているが、これは一例である。<D.ハードウェア構成>で後述するように、操作支援装置101の各部の構成は車両以外の場所に分散して配置されていても良い。   Although FIG. 1 shows the operation support apparatus 101 as an apparatus mounted on the vehicle A, this is an example. <D. Hardware Configuration> As will be described later, the configuration of each part of the operation support apparatus 101 may be distributed and arranged in places other than the vehicle.

操作支援装置101は、指示情報取得部11、スイッチ選択部12、操作画像作成部13および表示制御部14を備える。操作支援装置101は、表示装置21と接続され、これらを利用可能に構成されている。表示装置21および操作パネル22は車両Aに搭載されている。   The operation support apparatus 101 includes an instruction information acquisition unit 11, a switch selection unit 12, an operation image creation unit 13, and a display control unit 14. The operation support apparatus 101 is connected to the display device 21 and configured to be able to use them. The display device 21 and the operation panel 22 are mounted on the vehicle A.

指示情報取得部11は指示情報を取得する。指示情報は、車両Aの運転者が指示体で操作パネル22を指示する際の、操作パネル22に対する指示体の位置または指示方向を含む。操作パネル22は、操作対象装置23を操作するための装置であり、複数の操作スイッチを搭載している。各操作スイッチは、操作対象装置23の異なる制御内容に対応しており、車両Aの運転者は所望の操作スイッチを扱うことにより操作対象装置23の所望の制御を行うことができる。   The instruction information acquisition unit 11 acquires instruction information. The instruction information includes the position or direction of the indicator relative to the operation panel 22 when the driver of the vehicle A instructs the operation panel 22 with the indicator. The operation panel 22 is a device for operating the operation target device 23, and is equipped with a plurality of operation switches. Each operation switch corresponds to a different control content of the operation target device 23, and the driver of the vehicle A can perform desired control of the operation target device 23 by handling the desired operation switch.

スイッチ選択部12は、指示情報取得部11から取得した指示情報に基づき、操作パネルの複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択する。選択スイッチは、現状の指示体の挙動から運転者が操作すると思われる操作スイッチである。スイッチ選択部12は、特定した選択スイッチの情報を操作画像作成部13に出力する。   Based on the instruction information acquired from the instruction information acquisition unit 11, the switch selection unit 12 selects one or a plurality of operation switches as a selection switch from a plurality of operation switches on the operation panel. The selection switch is an operation switch that is assumed to be operated by the driver based on the current behavior of the indicator. The switch selection unit 12 outputs information on the specified selection switch to the operation image creation unit 13.

操作画像作成部13は、指示体画像および操作パネル画像を作成する。指示体画像は、指示体を表す画像であり、例えば指示体を撮影した画像またはCG画像などである。操作パネル画像は、操作パネル22における複数の操作スイッチの配置を表す画像である。操作パネル画像において、選択スイッチとそれ以外の操作スイッチ(以下、これを「非選択スイッチ」とも称する)とは異なる態様で表される。   The operation image creation unit 13 creates a pointer image and an operation panel image. The indicator image is an image representing the indicator, for example, an image obtained by photographing the indicator or a CG image. The operation panel image is an image representing the arrangement of a plurality of operation switches on the operation panel 22. In the operation panel image, the selection switch and other operation switches (hereinafter also referred to as “non-selection switches”) are represented in a different manner.

そして、操作画像作成部13は、指示情報取得部11から取得した指示情報に基づき、指示体画像と操作パネル画像とを合成して、操作画像を作成する。操作画像には、指示体と操作パネル22の各操作スイッチとの実際の位置関係が反映される。   Then, the operation image creation unit 13 creates an operation image by combining the indicator image and the operation panel image based on the instruction information acquired from the instruction information acquisition unit 11. The actual positional relationship between the indicator and each operation switch of the operation panel 22 is reflected in the operation image.

表示制御部14は、操作画像作成部13から操作画像を取得し、表示装置21に操作画像を表示させる。   The display control unit 14 acquires an operation image from the operation image creation unit 13 and causes the display device 21 to display the operation image.

<A−2.動作>
図2は、操作支援装置101の動作を示すフローチャートである。以下、図2に沿って操作支援装置101の動作を説明する。
<A-2. Operation>
FIG. 2 is a flowchart showing the operation of the operation support apparatus 101. Hereinafter, the operation of the operation support apparatus 101 will be described with reference to FIG.

まず、指示情報取得部11が指示情報を取得する(ステップS101)。   First, the instruction information acquisition unit 11 acquires instruction information (step S101).

次に、スイッチ選択部12が指示情報に基づき、操作パネル22が有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択する(ステップS102)。   Next, based on the instruction information, the switch selection unit 12 selects one or more operation switches as selection switches from among the plurality of operation switches of the operation panel 22 (step S102).

次に、操作画像作成部13が、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像を生成する(ステップS103)。操作パネル画像において、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとは異なる態様で表示される。   Next, the operation image creation unit 13 generates an operation panel image representing the arrangement of a plurality of operation switches on the operation panel (step S103). In the operation panel image, the non-selection switch that is an operation switch that is not a selection switch and the selection switch are displayed in different modes.

次に、操作画像作成部13が指示体を表す指示体画像を生成する(ステップS104)。   Next, the operation image creation unit 13 generates a pointer image representing the pointer (step S104).

次に、操作画像作成部13が、指示情報に基づき指示体画像と操作パネル画像とを合成して操作画像を生成する(ステップS105)。   Next, the operation image creation unit 13 generates an operation image by combining the indicator image and the operation panel image based on the instruction information (step S105).

次に、表示制御部14が、表示装置21に操作画像を表示させる(ステップS106)。   Next, the display control unit 14 displays an operation image on the display device 21 (step S106).

以上で、操作支援装置101の動作を終了する。   Above, operation | movement of the operation assistance apparatus 101 is complete | finished.

<A−3.効果>
実施の形態1の操作支援装置101は、車両Aに搭載された操作対象装置23を操作するための操作パネル22を車両Aの運転者が指示体を用いて操作する際の、操作パネル22に対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部11と、指示情報に基づき、操作パネル22が有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部12と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部13と、車両Aに搭載された表示装置21に、操作画像を表示させる表示制御部14と、を備える。そして、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。従って、運転者は操作パネルを見ることなく、操作画像を見ながら操作スイッチを操作することができる。また、選択スイッチが他の操作スイッチとは異なる態様で表示されるため、運転者は所望の操作スイッチを適格に操作することができる。
<A-3. Effect>
The operation support device 101 according to the first embodiment corresponds to the operation panel 22 when the driver of the vehicle A operates the operation panel 22 for operating the operation target device 23 mounted on the vehicle A using an indicator. An instruction information acquisition unit 11 that acquires instruction information including the position of the indicator or the indication direction of the indicator, and a switch for selecting one or a plurality of operation switches from a plurality of operation switches of the operation panel 22 based on the instruction information And an operation image creation unit that creates an operation image by combining an indicator image representing an indicator with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on the instruction information. 13 and a display control unit 14 that causes the display device 21 mounted on the vehicle A to display an operation image. The operation image is an image representing the non-selection switch, which is an operation switch that is not a selection switch, and the selection switch in different modes. Therefore, the driver can operate the operation switch while looking at the operation image without looking at the operation panel. Further, since the selection switch is displayed in a manner different from other operation switches, the driver can appropriately operate the desired operation switch.

実施の形態1の操作支援方法によれば、車両Aに搭載された操作対象装置23を操作するための操作パネル22を車両Aの運転者が指示体を用いて操作する際の、操作パネル22に対する指示体の位置または指示体の指示方向を含む指示情報を取得し、指示情報に基づき、操作パネル22が有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択し、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、車両Aに搭載された表示装置21に操作画像を表示させる。そして、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。従って、運転者は操作パネルを見ることなく、操作画像を見ながら操作スイッチを操作することができる。また、選択スイッチが他の操作スイッチとは異なる態様で表示されるため、運転者は所望の操作スイッチを適格に操作することができる。   According to the operation support method of the first embodiment, the operation panel 22 when the driver of the vehicle A operates the operation panel 22 for operating the operation target device 23 mounted on the vehicle A using the indicator. Instruction information including the position of the indicator relative to the indicator or the indication direction of the indicator, and based on the instruction information, select one or more operation switches as selection switches from among the plurality of operation switches of the operation panel 22 Based on the instruction information, the indicator image representing the body is synthesized with the operation panel image representing the arrangement of the plurality of operation switches on the operation panel to create an operation image, and the operation image is displayed on the display device 21 mounted on the vehicle A. Display. The operation image is an image representing the non-selection switch, which is an operation switch that is not a selection switch, and the selection switch in different modes. Therefore, the driver can operate the operation switch while looking at the operation image without looking at the operation panel. Further, since the selection switch is displayed in a manner different from other operation switches, the driver can appropriately operate the desired operation switch.

<B.実施の形態2>
<B−1.全体構成>
図3は、実施の形態2に係る操作支援装置102の構成を示すブロック図である。操作支援装置102の構成は、図1に示した通りであり、実施の形態1に係る操作支援装置101の構成と同様である。但し、操作支援装置102は、指示体検出装置24と接続され、これを利用可能に構成されている。
<B. Second Embodiment>
<B-1. Overall configuration>
FIG. 3 is a block diagram illustrating a configuration of the operation support apparatus 102 according to the second embodiment. The configuration of the operation support apparatus 102 is as shown in FIG. 1 and is the same as the configuration of the operation support apparatus 101 according to the first embodiment. However, the operation support apparatus 102 is connected to the indicator detection apparatus 24 and is configured to be usable.

図4は、操作パネル22を示す図である。操作パネル22は大抵、運転者が運転しながら操作スイッチ32を操作しやすいように、運転席のコンソールなど運転者の手元に配置される。図4では操作スイッチ32を機械的なスイッチとして図示しており、ボタン、ダイヤル、レバー等種々の形態のものが操作スイッチ32として想定される。しかし、操作スイッチ32は液晶画面等に表示されたアイコン等により実現されても良い。   FIG. 4 is a diagram showing the operation panel 22. The operation panel 22 is usually arranged at the driver's hand, such as a console in the driver's seat, so that the driver can easily operate the operation switch 32 while driving. In FIG. 4, the operation switch 32 is illustrated as a mechanical switch, and various types such as buttons, dials, and levers are assumed as the operation switch 32. However, the operation switch 32 may be realized by an icon or the like displayed on a liquid crystal screen or the like.

個々の操作スイッチ32は、操作対象装置23の異なる制御に対応している。運転者は、指示体を用いて操作スイッチ32を扱うことにより、操作対象装置23を操作することが可能である。ここでは操作スイッチ32を「扱う」と述べているが、操作スイッチ32の形状に応じて押す、引く、回すなどの種々の操作が操作スイッチ32を扱う動作として想定される。図4では、運転者の手指40を指示体の例としているが、タッチペン等、他の指示体を用いることも可能である。   Each operation switch 32 corresponds to different control of the operation target device 23. The driver can operate the operation target device 23 by handling the operation switch 32 using an indicator. Here, it is described that the operation switch 32 is “handled”, but various operations such as pushing, pulling, and turning according to the shape of the operation switch 32 are assumed as operations for handling the operation switch 32. In FIG. 4, the driver's finger 40 is an example of an indicator, but other indicators such as a touch pen may be used.

多数の操作スイッチ32が操作パネル22に搭載されるほど、運転者が意図していない操作スイッチ32を誤って扱ってしまう。あるいは、運転者はどの操作スイッチ32が実行したい操作対象装置23の制御内容に対応しているのかを把握しにくい。特に、運転者は運転しながら、手元の近くの操作パネル22を注視することは困難であるため、上記の問題が顕著に発生する。   The more operation switches 32 are mounted on the operation panel 22, the more erroneously handling the operation switches 32 that are not intended by the driver. Alternatively, it is difficult for the driver to know which operation switch 32 corresponds to the control content of the operation target device 23 to be executed. In particular, it is difficult for the driver to gaze at the operation panel 22 near the hand while driving, and thus the above-described problem occurs remarkably.

そこで、操作支援装置102は、運転者が指示体を操作スイッチ32に近づけた際に、指示体と操作スイッチ32との位置関係を表す操作画像を表示装置21に表示させることにより、運転者が運転中でも操作画像を見ながら所望の操作スイッチ32を的確に操作することが出来るようにする。この目的を達するため、表示装置21は、操作パネル22よりは運転者が前方を見て運転する際の視界(以下、「前方視界」と称する)に近い場所に設置されていることが望ましく、例えばHead-Up Display(HUD)またはInstrument Cluster Display(ICD)などである。   Therefore, the operation support apparatus 102 causes the display device 21 to display an operation image representing the positional relationship between the indicator and the operation switch 32 when the driver brings the indicator close to the operation switch 32, so that the driver can A desired operation switch 32 can be accurately operated while viewing an operation image even during driving. In order to achieve this purpose, it is desirable that the display device 21 be installed in a place closer to the field of view when the driver looks ahead (hereinafter referred to as “front field of view”) than the operation panel 22. For example, Head-Up Display (HUD) or Instrument Cluster Display (ICD).

指示体検出装置24は、例えば操作パネル22を撮影するカメラ、または操作パネル22に対する指示体の接近を検出する静電容量式タッチパネル等により構成され、操作パネル22に対する指示体の位置、または指示体の指示方向を検出する。指示体検出装置24は、操作パネル22に対する指示体の位置と指示体の指示方向の両方を検出しても良い。指示体検出装置24による検出結果は、指示情報として指示情報取得部11に出力される。すなわち、指示情報には操作パネル22に対する指示体の位置、および指示体の指示方向の少なくとも一方が含まれる。   The indicator detection device 24 includes, for example, a camera that captures the operation panel 22 or a capacitive touch panel that detects the approach of the indicator to the operation panel 22, and the position of the indicator relative to the operation panel 22 or the indicator. The indicated direction is detected. The indicator detection device 24 may detect both the position of the indicator relative to the operation panel 22 and the indication direction of the indicator. The detection result by the pointer detection device 24 is output to the instruction information acquisition unit 11 as instruction information. That is, the instruction information includes at least one of the position of the indicator with respect to the operation panel 22 and the indication direction of the indicator.

指示情報取得部11は、指示体検出装置24から指示情報を取得し、これをスイッチ選択部12に出力する。   The instruction information acquisition unit 11 acquires instruction information from the indicator detection device 24 and outputs this to the switch selection unit 12.

スイッチ選択部12、操作画像作成部13、表示制御部14の構成は、実施の形態1と同様である。   The configurations of the switch selection unit 12, the operation image creation unit 13, and the display control unit 14 are the same as those in the first embodiment.

<B−2.操作画像>
操作支援装置102の動作は、図2のフローチャートに示した通りであるため、フローチャートに沿った説明はここでは省略する。以下、図5から図8を用いて表示装置21に表示される操作画像を例示する。
<B-2. Operation image>
Since the operation of the operation support apparatus 102 is as shown in the flowchart of FIG. 2, the description along the flowchart is omitted here. Hereinafter, an operation image displayed on the display device 21 will be exemplified with reference to FIGS. 5 to 8.

図5の操作画像50は、指示体である運転者の手指40を示す画像(以下、「手指画像」と称する)40Dと、操作パネルを示す操作パネル画像22Dとが合成されたものである。操作パネル画像22Dでは、操作パネル22に搭載された複数の操作スイッチ32の画像(以下、「操作スイッチ画像32D」が表示されている。   The operation image 50 in FIG. 5 is a combination of an image (hereinafter, referred to as “hand image”) 40D showing the driver's finger 40 as an indicator and an operation panel image 22D showing the operation panel. In the operation panel image 22D, images of a plurality of operation switches 32 mounted on the operation panel 22 (hereinafter referred to as “operation switch image 32D”) are displayed.

手指画像40Dは、手指40の実際の操作パネルに対する位置または方向にあわせた位置または方向で、操作パネル画像22Dに合成される。図5の例で、手指画像40Dは操作パネル画像22Dの左下に重ねられており、これは実際に手指40が操作パネル22の左下に重なっていることを反映している。このように、操作画像50は、指示体が操作パネル22に対してどのような位置または方向にあるかを表すため、運転者は操作画像を見ることにより、実際に操作パネル22を見なくても操作パネル22上の所望の操作スイッチ32を操作することが可能になる。   The finger image 40D is combined with the operation panel image 22D at a position or direction that matches the position or direction of the finger 40 with respect to the actual operation panel. In the example of FIG. 5, the finger image 40 </ b> D is superimposed on the lower left of the operation panel image 22 </ b> D, which reflects that the finger 40 actually overlaps the lower left of the operation panel 22. As described above, the operation image 50 represents the position or direction of the indicator with respect to the operation panel 22, so that the driver does not actually see the operation panel 22 by looking at the operation image. The desired operation switch 32 on the operation panel 22 can be operated.

手指40が操作パネル22の左下に重なったとき、手指40との距離が近い1又は複数の操作スイッチ32が選択スイッチとなる。ここで、手指40から距離の近い順に3つの操作スイッチ32が選択スイッチになるものとする。従って、図5に示すように、操作画像50において手指画像40Dの近くに表示される3つの操作スイッチ画像が選択スイッチ画像32ADとして、他の操作スイッチ画像32Dよりも太い枠で表示される。このように選択スイッチ画像32ADは、操作画像50において他の操作スイッチ画像32Dとは容易に区別可能な態様で表示される。従って、運転者は自身が今から操作しようとしているスイッチ、すなわち選択スイッチがどの操作スイッチ32であるかを容易に把握することができる。   When the finger 40 overlaps the lower left of the operation panel 22, one or more operation switches 32 that are close to the finger 40 are selection switches. Here, it is assumed that the three operation switches 32 become selection switches in order of increasing distance from the finger 40. Therefore, as shown in FIG. 5, three operation switch images displayed near the finger image 40D in the operation image 50 are displayed as a selection switch image 32AD with a thicker frame than the other operation switch images 32D. Thus, the selection switch image 32AD is displayed in a manner that can be easily distinguished from the other operation switch images 32D in the operation image 50. Therefore, the driver can easily grasp which operation switch 32 the switch he / she intends to operate from now on, that is, the selection switch.

図5に示した、選択スイッチ画像32ADを他の操作スイッチ画像32Dよりも太い枠で表示することは、選択スイッチ画像32ADと他の操作スイッチ画像32Dとを異なる態様で表示することの一例である。他の例として図6に示すように、選択スイッチ画像32ADを通常の画像、例えば選択スイッチの撮影画像とし、他の操作スイッチ画像32Dを記号または文字で表しても良い。   Displaying the selection switch image 32AD with a thicker frame than the other operation switch images 32D shown in FIG. 5 is an example of displaying the selection switch image 32AD and the other operation switch image 32D in different modes. . As another example, as shown in FIG. 6, the selection switch image 32AD may be a normal image, for example, a photographed image of the selection switch, and the other operation switch image 32D may be represented by a symbol or a character.

また、選択スイッチ画像32ADを撮影画像とし、他の操作スイッチ画像32DをCG画像としても良い。また、反透過、低コントラスト、またはブラー表示等の方法で、他の操作スイッチ画像32Dが選択スイッチ画像32ADに比べて不明瞭に表示されても良い。以上に述べた表示方法によって、運転者は選択スイッチ画像32ADと他の操作スイッチ画像32Dとを容易に区別することができる。   Alternatively, the selection switch image 32AD may be a captured image, and the other operation switch image 32D may be a CG image. Further, the other operation switch image 32D may be displayed indistinctly compared with the selection switch image 32AD by a method such as anti-transmission, low contrast, or blur display. With the display method described above, the driver can easily distinguish the selection switch image 32AD from the other operation switch image 32D.

また、図7および図8に示すように、選択スイッチ画像32ADに、選択スイッチの操作内容を説明する操作メニュー33を付記表示しても良い。図8の操作画像50では、ダイヤル形状の選択スイッチの選択スイッチ画像32ADに対して、ダイヤルを右に回すとUP、左に回すとDOWNという操作内容を説明する操作メニュー33が表示されている。従って、運転者は自身が操作しようとする操作スイッチ32の操作方法を、操作画像50から容易に把握することができる。   As shown in FIGS. 7 and 8, an operation menu 33 for explaining the operation content of the selection switch may be additionally displayed on the selection switch image 32AD. In the operation image 50 of FIG. 8, an operation menu 33 is displayed for explaining the operation content of UP when the dial is turned to the right and DOWN when the dial is turned to the selection switch image 32AD of the dial-shaped selection switch. Therefore, the driver can easily grasp the operation method of the operation switch 32 that he / she wants to operate from the operation image 50.

図5から図8では、操作画像50を2次元の画像として表現した。しかし、操作画像50は操作スイッチ32および手指40等を立体的に表現する立体視画像であっても良い。この場合、操作画像作成部13は、指示体画像と操作パネル画像をそれぞれ立体視画像として作成し、両画像を立体視画像として合成する。そして、このような操作画像50は、裸眼立体視表示機能を有する表示装置21に表示される。   5 to 8, the operation image 50 is expressed as a two-dimensional image. However, the operation image 50 may be a stereoscopic image that three-dimensionally represents the operation switch 32, the finger 40, and the like. In this case, the operation image creation unit 13 creates the indicator image and the operation panel image as stereoscopic images, and synthesizes both images as stereoscopic images. Such an operation image 50 is displayed on the display device 21 having the autostereoscopic display function.

<B−3.選択スイッチの特定>
スイッチ選択部12は、指示情報に基づき、複数の操作スイッチ32の中から選択スイッチを選択する。図5から図8の表示例では、手指40との距離が近い順に所定の数の操作スイッチ32を選択スイッチとしていたが、これは、操作パネル22に対する手指40の位置に基づき選択スイッチを選択する方法の一例である。
<B-3. Identification of selection switch>
The switch selection unit 12 selects a selection switch from the plurality of operation switches 32 based on the instruction information. In the display examples of FIG. 5 to FIG. 8, a predetermined number of operation switches 32 are used as selection switches in order of increasing distance from the finger 40, but this selects the selection switch based on the position of the finger 40 with respect to the operation panel 22. It is an example of a method.

スイッチ選択部12は、操作パネル22に対する手指40の指示方向に基づき、選択スイッチを選択しても良い。つまり、手指40の指示方向に重なる操作スイッチ32が、選択スイッチとして選択される。手指40の指示方向が複数の操作スイッチ32に跨って重なる場合、スイッチ選択部12は指示方向が重なる全ての操作スイッチ32を選択スイッチとしても良い。また、スイッチ選択部12は指示方向が重なる操作スイッチ32だけでなく、当該操作スイッチ32と隣り合う所定数の他の操作スイッチ32も、選択スイッチとしても良い。   The switch selection unit 12 may select a selection switch based on an instruction direction of the finger 40 with respect to the operation panel 22. In other words, the operation switch 32 that overlaps the instruction direction of the finger 40 is selected as the selection switch. When the pointing direction of the finger 40 overlaps across the plurality of operation switches 32, the switch selection unit 12 may use all the operation switches 32 whose pointing directions overlap as selection switches. In addition, the switch selection unit 12 may use not only the operation switch 32 whose instruction directions overlap but also a predetermined number of other operation switches 32 adjacent to the operation switch 32 as selection switches.

なお、スイッチ選択部12は、例えば指示体と操作パネル22との距離が、予め定められた閾値よりも小さくなったときに、そのときの指示情報に基づき選択スイッチを選択する。すなわち、指示体が操作パネル22にある程度近づかなければ、選択スイッチは選択されない。あるいは、スイッチ選択部12は、指示体が予め定められた時間継続して同じ操作スイッチを指示している場合に、選択スイッチを選択する。   For example, when the distance between the indicator and the operation panel 22 becomes smaller than a predetermined threshold, the switch selection unit 12 selects a selection switch based on the instruction information at that time. That is, if the indicator does not approach the operation panel 22 to some extent, the selection switch is not selected. Alternatively, the switch selection unit 12 selects a selection switch when the indicator indicates the same operation switch continuously for a predetermined time.

<B−4.変形例1>
図9は、実施の形態2の変形例1に係る操作支援装置102Aの構成を示すブロック図である。操作支援装置102Aの構成は、操作支援装置102の構成において、指示情報取得部11が手形検出部11Aを備えたものである。
<B-4. Modification 1>
FIG. 9 is a block diagram illustrating a configuration of an operation support apparatus 102A according to the first modification of the second embodiment. The configuration of the operation support device 102A is the same as the configuration of the operation support device 102, but the instruction information acquisition unit 11 includes a bill detection unit 11A.

指示体検出装置24は、操作パネル22に対する指示体の位置と指示方向に加えて、指示体が運転者の手指40である場合に手指40の形状を検出し、これを指示情報として指示情報取得部11に出力する。例えば、指示体検出装置24はカメラによって操作パネル22に接近した運転者の手指40を撮影し、撮影画像を指示情報として指示情報取得部11に出力することができる。   The indicator detection device 24 detects the shape of the finger 40 when the indicator is the driver's finger 40 in addition to the position and the indication direction of the indicator with respect to the operation panel 22, and obtains instruction information as instruction information. To the unit 11. For example, the indicator detection device 24 can photograph the driver's finger 40 approaching the operation panel 22 with a camera and output the photographed image as instruction information to the instruction information acquisition unit 11.

手形検出部11Aは、指示体が運転者の手指40である場合に、指示情報から手指40の形状を検出する。例えば、手形検出部11Aは、手指40が人差し指などいずれかの指を伸ばしてボタンを押すときの形状(以下、これを「ボタン形状」と称する)をしているか、あるいは手指40がダイヤルを掴むときの形状(以下、これを「ダイヤル形状」と称する)をしているかを検出する。手形検出部11Aの検出結果は、指示情報に含められて指示情報取得部11からスイッチ選択部12に出力される。   When the indicator is the driver's finger 40, the handprint detector 11A detects the shape of the finger 40 from the instruction information. For example, the hand detection unit 11A has a shape when the finger 40 extends a finger such as an index finger and presses a button (hereinafter referred to as “button shape”), or the finger 40 grabs the dial. It is detected whether the current shape (hereinafter referred to as “dial shape”) is used. The detection result of the bill detection unit 11A is included in the instruction information and output from the instruction information acquisition unit 11 to the switch selection unit 12.

図10は、操作支援装置102Aのスイッチ選択部12による選択スイッチの選択処理に関するフローチャートであり、図2のステップS102に対応したフローチャートである。スイッチ選択部12は、指示情報に基づき選択スイッチを選択する。操作支援装置102では、スイッチ選択部12は全ての操作スイッチ32から選択スイッチを選択していた。しかし、操作支援装置102Aでは、スイッチ選択部12は手指40の形状に対応する操作スイッチ32を特定し(ステップS1021A)、特定した操作スイッチ32の中から選択スイッチを選択する(ステップS1022A)。   FIG. 10 is a flowchart regarding selection switch selection processing by the switch selection unit 12 of the operation support apparatus 102A, and is a flowchart corresponding to step S102 of FIG. The switch selection unit 12 selects a selection switch based on the instruction information. In the operation support apparatus 102, the switch selection unit 12 has selected a selection switch from all the operation switches 32. However, in the operation support apparatus 102A, the switch selection unit 12 specifies the operation switch 32 corresponding to the shape of the finger 40 (step S1021A), and selects a selection switch from the specified operation switch 32 (step S1022A).

例えば、手指40の形状がボタン形状である場合、選択スイッチはボタン形状の操作スイッチ32の中から選択され、手指40の形状がダイヤル形状である場合、選択スイッチはダイヤル形状の操作スイッチ32の中から選択される。これにより、スイッチ選択部12は精度良く選択スイッチを選択することができる。   For example, when the shape of the finger 40 is a button shape, the selection switch is selected from the button-shaped operation switch 32, and when the shape of the finger 40 is a dial shape, the selection switch is within the dial-shaped operation switch 32. Selected from. Thereby, the switch selection part 12 can select a selection switch with sufficient precision.

図11は、操作支援装置102Aによる操作画像50を示す図である。この操作画像50には、ボタン形状の操作スイッチ32の操作スイッチ画像32Dと、ダイヤル形状の操作スイッチ32の操作スイッチ画像32Dとが表示される。手指画像40Dは、ボタン形状の操作スイッチ32の操作スイッチ画像32Dの下に重ねて表示されている。手指の形状はダイヤル形状であるので、スイッチ選択部12は、手指に最も近いボタン形状の操作スイッチ32ではなく、ダイヤル形状の操作スイッチ32の中から最も手指に近い左端の操作スイッチ32を選択スイッチとする。その結果、図11に示すように、左端のダイヤル形状の操作スイッチ32の画像が選択スイッチ画像32ADとして、操作メニュー33と共に表示される。   FIG. 11 is a diagram showing an operation image 50 by the operation support apparatus 102A. In this operation image 50, an operation switch image 32D of the button-shaped operation switch 32 and an operation switch image 32D of the dial-shaped operation switch 32 are displayed. The finger image 40D is displayed so as to overlap below the operation switch image 32D of the button-shaped operation switch 32. Since the finger shape is a dial shape, the switch selection unit 12 selects the leftmost operation switch 32 closest to the finger from among the dial-shaped operation switches 32 instead of the button-shaped operation switch 32 closest to the finger. And As a result, as shown in FIG. 11, the image of the leftmost dial-shaped operation switch 32 is displayed together with the operation menu 33 as a selection switch image 32AD.

<B−5.変形例2>
図12は、実施の形態2の変形例2に係る操作支援装置102Bの構成を示すブロック図である。操作支援装置102Bは、操作支援装置102の構成に加えて、車内情報取得部15をさらに備えている。
<B-5. Modification 2>
FIG. 12 is a block diagram illustrating a configuration of an operation support apparatus 102B according to the second modification of the second embodiment. The operation support apparatus 102B further includes an in-vehicle information acquisition unit 15 in addition to the configuration of the operation support apparatus 102.

車内情報取得部15は車内情報を取得する。車内情報には、車内の温度の情報、ガラスの曇り等の情報が含まれる。   The in-vehicle information acquisition unit 15 acquires in-vehicle information. The in-vehicle information includes information on the temperature in the vehicle and information such as fogging of the glass.

スイッチ選択部12は、指示情報取得部11から指示情報を、車内情報取得部15から車内情報をそれぞれ取得し、指示情報と車内情報に基づき選択スイッチを選択する。具体的には、操作パネル22に搭載された操作スイッチ32の中から車内情報に適合する操作スイッチ32を特定する。   The switch selection unit 12 acquires instruction information from the instruction information acquisition unit 11 and vehicle information from the vehicle interior information acquisition unit 15, and selects a selection switch based on the command information and vehicle interior information. Specifically, the operation switch 32 that matches the in-vehicle information is specified from among the operation switches 32 mounted on the operation panel 22.

例えば、車内情報が車内の温度が高いことを示していれば、エアコンを操作するための操作スイッチ32が車内情報に適合する操作スイッチ32となる。また、車内情報がガラスの曇りを示していれば、デフォッガを操作するための操作スイッチ32が車内情報に適合する操作スイッチ32となる。   For example, if the in-vehicle information indicates that the temperature in the vehicle is high, the operation switch 32 for operating the air conditioner becomes the operation switch 32 that matches the in-vehicle information. If the in-vehicle information indicates that the glass is fogged, the operation switch 32 for operating the defogger becomes the operation switch 32 that matches the in-vehicle information.

スイッチ選択部12は、このようにして特定した操作スイッチ32の中から、指示情報に基づき、手指40から近い操作スイッチ32または手指40の指示方向に重なる操作スイッチ32を選択スイッチとして選択する。   Based on the instruction information, the switch selection unit 12 selects the operation switch 32 close to the finger 40 or the operation switch 32 overlapping the instruction direction of the finger 40 as a selection switch from the operation switches 32 thus identified.

図13は、操作支援装置102Bのスイッチ選択部12による選択スイッチの選択処理に関するフローチャートであり、図2のステップS102に対応したフローチャートである。スイッチ選択部12は、指示情報に基づき選択スイッチを選択する。操作支援装置102では、スイッチ選択部12は全ての操作スイッチ32から選択スイッチを選択していた。しかし、操作支援装置102Bでは、スイッチ選択部12は車内情報に適合する操作スイッチ32を特定し(ステップS1021B)、特定した操作スイッチ32の中から選択スイッチを選択する(ステップS1022B)。   FIG. 13 is a flowchart relating to selection switch selection processing by the switch selection unit 12 of the operation support apparatus 102B, and is a flowchart corresponding to step S102 of FIG. The switch selection unit 12 selects a selection switch based on the instruction information. In the operation support apparatus 102, the switch selection unit 12 has selected a selection switch from all the operation switches 32. However, in the operation support apparatus 102B, the switch selection unit 12 specifies an operation switch 32 that matches the in-vehicle information (step S1021B), and selects a selection switch from the specified operation switch 32 (step S1022B).

<B−6.効果>
実施の形態2の操作支援装置102において、スイッチ選択部12は、指示体からの距離が短い順に1又は複数の操作スイッチ32を選択スイッチとして選択する。従って、運転者は指示体の近くにある操作スイッチ32を操作画像50上で容易に把握することができるため、所望の操作スイッチ32を容易に操作することができる。
<B-6. Effect>
In the operation support apparatus 102 according to the second embodiment, the switch selection unit 12 selects one or a plurality of operation switches 32 as selection switches in order of increasing distance from the indicator. Accordingly, since the driver can easily grasp the operation switch 32 near the indicator on the operation image 50, the driver can easily operate the desired operation switch 32.

また、操作画像50において、選択スイッチは撮影画像で表され、他の操作スイッチ32はCG画像で表される。このように、操作画像において、選択スイッチの画像と他の操作スイッチ32の画像とを異なる態様で表示されることにより、運転者は選択スイッチを操作画像50上で容易に把握することができる。従って、所望の操作スイッチ32を容易に操作することができる。   In the operation image 50, the selection switch is represented by a captured image, and the other operation switches 32 are represented by CG images. In this manner, in the operation image, the image of the selection switch and the image of the other operation switch 32 are displayed in different modes, so that the driver can easily grasp the selection switch on the operation image 50. Therefore, the desired operation switch 32 can be easily operated.

あるいは、操作画像50において、選択スイッチは撮影画像で表され、他の操作スイッチ32は記号または文字で表される。このように、操作画像において、選択スイッチの画像と他の操作スイッチ32の画像とを異なる態様で表示されることにより、運転者は選択スイッチを操作画像50上で容易に把握することができる。従って、運転者は所望の操作スイッチ32を容易に操作することができる。   Alternatively, in the operation image 50, the selection switch is represented by a photographed image, and the other operation switches 32 are represented by symbols or characters. In this manner, in the operation image, the image of the selection switch and the image of the other operation switch 32 are displayed in different modes, so that the driver can easily grasp the selection switch on the operation image 50. Therefore, the driver can easily operate the desired operation switch 32.

あるいは、操作画像50において、選択スイッチは他の操作スイッチ32よりも高い明瞭度で表示される。従って、運転者は操作画像上で、選択スイッチを容易に把握することができる。これにより、運転者は所望の操作スイッチ32を容易に操作することができる。   Alternatively, in the operation image 50, the selection switch is displayed with higher clarity than the other operation switches 32. Therefore, the driver can easily grasp the selection switch on the operation image. As a result, the driver can easily operate the desired operation switch 32.

また、表示装置21がヘッドアップディスプレイ(HUD)であれば、運転者は視線を運転時の通常の方向から大きく移動することなく操作画像50を視認することができるため、操作画像50を見ながら容易に操作スイッチ32を操作することができる。   Further, if the display device 21 is a head-up display (HUD), the driver can visually recognize the operation image 50 without moving the line of sight from the normal direction during driving. The operation switch 32 can be easily operated.

あるいは、表示装置21がインスツルメントクラスタディスプレイ(ICD)である場合、ICDはハンドルの奥側など、運転者が視線を運転中の通常の方向から大きく移動することなく視認できる位置に設けられているため、運転者は操作画像50を見ながら容易に操作スイッチ32を操作することができる。   Alternatively, when the display device 21 is an instrument cluster display (ICD), the ICD is provided at a position where the driver can visually recognize the line of sight without greatly moving from the normal direction during driving, such as the back side of the steering wheel. Therefore, the driver can easily operate the operation switch 32 while viewing the operation image 50.

また、操作画像50が立体視画像であり、操作画像50が裸眼立体視表示機能を有する表示装置21に表示される場合、運転者は操作画像50から指示体と操作スイッチとの位置関係をより直感的に理解することができる。従って、運転者は所望の操作スイッチ32を容易に選択することができる。   When the operation image 50 is a stereoscopic image and the operation image 50 is displayed on the display device 21 having the autostereoscopic display function, the driver can change the positional relationship between the indicator and the operation switch from the operation image 50. Can be intuitively understood. Therefore, the driver can easily select the desired operation switch 32.

操作画像作成部13は、選択スイッチの操作内容が選択スイッチに付記表示される操作画像50を作成する。従って、運転者は操作画像50から選択スイッチの操作内容を容易に把握することができる。   The operation image creating unit 13 creates an operation image 50 in which the operation content of the selection switch is additionally displayed on the selection switch. Therefore, the driver can easily grasp the operation content of the selection switch from the operation image 50.

実施の形態2の変形例2に係る操作支援装置102Aにおいて、指示体は車両Aの運転者の手指であり、指示情報は、手指の形状の情報を含み、スイッチ選択部12は、手指の形状に対応した操作スイッチ32から選択スイッチを選択する。従って、操作支援装置102Aによれば運転者の意図に沿った選択スイッチを精度よく選択することができる。   In the operation support apparatus 102A according to the second modification of the second embodiment, the indicator is the finger of the driver of the vehicle A, the instruction information includes information on the shape of the finger, and the switch selection unit 12 includes the shape of the finger A selection switch is selected from the operation switches 32 corresponding to. Therefore, according to the operation support apparatus 102A, it is possible to accurately select a selection switch in accordance with the driver's intention.

実施の形態2の変形例2に係る操作支援装置102Bは、操作支援装置102の構成に加えて、車両Aの室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得する車内情報取得部15を備える。また、スイッチ選択部12は、車両情報に対応した操作スイッチ32から選択スイッチを選択する。従って、操作支援装置102Bによれば運転者の意図に沿った選択スイッチを精度よく選択することができる。   In addition to the configuration of the operation support apparatus 102, the operation support apparatus 102B according to the second modification of the second embodiment acquires in-vehicle information acquisition unit 15 that acquires in-vehicle information including information related to the room temperature of the vehicle A or the fogging condition of the glass. Is provided. Moreover, the switch selection part 12 selects a selection switch from the operation switch 32 corresponding to vehicle information. Therefore, according to the operation support device 102B, it is possible to accurately select the selection switch in accordance with the driver's intention.

<C.実施の形態3>
<C−1.構成>
図14は、実施の形態3に係る操作支援装置103の構成を示すブロック図である。操作支援装置103は、実施の形態2に係る操作支援装置102の構成において、装置制御部16をさらに備え、指示情報取得部11がジェスチャ取得部11Bを備えるものであり、これ以外の操作支援装置103の構成は操作支援装置102と同様である。
<C. Embodiment 3>
<C-1. Configuration>
FIG. 14 is a block diagram illustrating a configuration of the operation support apparatus 103 according to the third embodiment. In the configuration of the operation support apparatus 102 according to the second embodiment, the operation support apparatus 103 further includes the apparatus control unit 16, the instruction information acquisition unit 11 includes the gesture acquisition unit 11B, and other operation support apparatuses The configuration 103 is the same as that of the operation support apparatus 102.

指示体検出装置24は、指示体である手指の操作パネル22に対する位置および指示方向を検出し、これらの検出結果を指示情報として指示情報取得部11に出力する。   The indicator detection device 24 detects the position and the indication direction of the finger as the indicator with respect to the operation panel 22 and outputs these detection results to the instruction information acquisition unit 11 as instruction information.

ジェスチャ取得部11Bは、指示情報から一定期間の手指の動きを読み取り、ジェスチャ操作を検出する。すなわち、ジェスチャ取得部11Bには手指の特定の動作がジェスチャ操作として登録されており、指示情報から取得した手指の動きを登録されたジェスチャ操作と比較することによってジェスチャ操作を検出する。なお、ここではジェスチャ取得部11Bがジェスチャ操作を検出することを説明しているが、指示体検出装置24がジェスチャ操作の検出を行い、その検出結果をジェスチャ取得部11Bが取得する構成であっても良い。   The gesture acquisition unit 11B reads the movement of fingers for a certain period from the instruction information and detects a gesture operation. That is, a specific operation of a finger is registered as a gesture operation in the gesture acquisition unit 11B, and the gesture operation is detected by comparing the movement of the finger acquired from the instruction information with the registered gesture operation. Here, the gesture acquisition unit 11B is described as detecting a gesture operation, but the pointer detection device 24 detects the gesture operation, and the gesture acquisition unit 11B acquires the detection result. Also good.

ジェスチャ操作は、操作スイッチに対する非接触の動作であり、例えばボタン形状の手指を操作スイッチ32に瞬間的に近づけてから離す動作(以下、これを「プッシュ操作」と称する)と、手指をダイヤル形状にしてダイヤルを回す動作(以下、これを「ダイヤル操作」と称する)とがある。   The gesture operation is a non-contact operation with respect to the operation switch, for example, an operation in which a button-shaped finger is brought close to the operation switch 32 and then released (hereinafter referred to as “push operation”), and the finger is formed in a dial shape. And turning the dial (hereinafter referred to as “dial operation”).

ジェスチャ取得部11Bは、ジェスチャ操作を検出すると装置制御部16に検出したジェスチャ操作の情報を出力する。   When the gesture acquisition unit 11B detects a gesture operation, the gesture acquisition unit 11B outputs information on the detected gesture operation to the device control unit 16.

装置制御部16は、ジェスチャ取得部11Bが検出したジェスチャ操作に沿って、操作対象装置23を制御する。従って、運転者は操作スイッチ32を触ることなく、操作対象装置23を操作することが可能になる。   The device control unit 16 controls the operation target device 23 in accordance with the gesture operation detected by the gesture acquisition unit 11B. Therefore, the driver can operate the operation target device 23 without touching the operation switch 32.

<C−2.動作>
図15は、操作支援装置103の動作を示すフローチャートである。以下、図15のフローに沿って操作支援装置103の動作を説明する。
<C-2. Operation>
FIG. 15 is a flowchart showing the operation of the operation support apparatus 103. Hereinafter, the operation of the operation support apparatus 103 will be described along the flow of FIG.

図15のステップS301からステップS306までは、図2のステップS101からステップS106までと同様である。ステップS306で操作画像を表示装置21に表示させた後、ジェスチャ取得部11Bはジェスチャ操作の有無を判断する(ステップS307)。   Steps S301 to S306 in FIG. 15 are the same as steps S101 to S106 in FIG. After the operation image is displayed on the display device 21 in step S306, the gesture acquisition unit 11B determines whether or not there is a gesture operation (step S307).

例えば操作画像を表示装置21に表示してから一定期間の間、ジェスチャ操作がなければ、操作支援装置103はそのまま処理を終了する。一方、操作画像を表示装置21に表示してから一定期間の間にジェスチャ操作があれば、装置制御部16がジェスチャ操作に対応した操作対象装置23の制御を行う(ステップS308)。以上で、操作支援装置103の処理を終了する。   For example, if there is no gesture operation for a certain period after the operation image is displayed on the display device 21, the operation support device 103 ends the process as it is. On the other hand, if there is a gesture operation for a certain period after the operation image is displayed on the display device 21, the device control unit 16 controls the operation target device 23 corresponding to the gesture operation (step S308). Above, the process of the operation assistance apparatus 103 is complete | finished.

図16は、運転者がプッシュ操作を行う際の操作画像50を示す図である。このとき、装置制御部16は、選択スイッチが操作された場合に行う操作対象装置23の制御を実行する。選択スイッチが複数存在する場合には、装置制御部16は例えば手指から最も近い位置にある選択スイッチが操作された場合に行う操作対象装置23の制御を実行する。   FIG. 16 is a diagram illustrating an operation image 50 when the driver performs a push operation. At this time, the device control unit 16 executes control of the operation target device 23 that is performed when the selection switch is operated. When there are a plurality of selection switches, the device control unit 16 performs control of the operation target device 23 that is performed when, for example, the selection switch closest to the finger is operated.

図17は、運転者がダイヤル操作を行う際の操作画像50を示す図である。このとき、装置制御部16は、ダイヤル操作の回転方向に応じて、選択スイッチが操作された場合に行う操作対象装置23の制御を実行する。例えば、装置制御部16は、運転者がダイヤルを右に回すジェスチャ操作を行った場合には、ダイヤル形状の選択スイッチが右に回されたときに行う操作対象装置23の制御を実行する。   FIG. 17 is a diagram illustrating an operation image 50 when the driver performs a dial operation. At this time, the device control unit 16 executes control of the operation target device 23 performed when the selection switch is operated according to the rotation direction of the dial operation. For example, when the driver performs a gesture operation to turn the dial to the right, the device control unit 16 performs control of the operation target device 23 that is performed when the dial-shaped selection switch is turned to the right.

<C−3.効果>
実施の形態3において、指示体は車両Aの乗員の手指であり、操作支援装置103は、実施の形態1に係る操作支援装置101の構成に加えて、手指を用いたジェスチャ操作を取得するジェスチャ取得部11Bと、ジェスチャ操作に基づき選択スイッチの操作内容を実行して操作対象装置を制御する装置制御部16と、を備える。従って、運転者は操作パネル22に触れることなく選択スイッチを操作することができる。
<C-3. Effect>
In the third embodiment, the indicator is a finger of an occupant of the vehicle A, and the operation support device 103 is a gesture for acquiring a gesture operation using a finger in addition to the configuration of the operation support device 101 according to the first embodiment. The acquisition part 11B and the apparatus control part 16 which performs the operation content of a selection switch based on gesture operation, and controls an operation target apparatus are provided. Therefore, the driver can operate the selection switch without touching the operation panel 22.

<D.ハードウェア構成>
上述した操作支援装置101,102,102A,102B,103における、指示情報取得部11、スイッチ選択部12、操作画像作成部13、表示制御部14、車内情報取得部15および装置制御部16は、図18に示す処理回路81により実現される。すなわち、処理回路81は、指示情報取得部11、スイッチ選択部12、操作画像作成部13、表示制御部14、車内情報取得部15および装置制御部16(以下、「指示情報取得部11等」と称する)を備える。処理回路81には、専用のハードウェアが適用されても良いし、メモリに格納されるプログラムを実行するプロセッサが適用されても良い。プロセッサは、例えば中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)等である。
<D. Hardware configuration>
In the operation support devices 101, 102, 102A, 102B, 103 described above, the instruction information acquisition unit 11, the switch selection unit 12, the operation image creation unit 13, the display control unit 14, the in-vehicle information acquisition unit 15 and the device control unit 16 This is realized by the processing circuit 81 shown in FIG. That is, the processing circuit 81 includes an instruction information acquisition unit 11, a switch selection unit 12, an operation image creation unit 13, a display control unit 14, an in-vehicle information acquisition unit 15, and a device control unit 16 (hereinafter, “instruction information acquisition unit 11 and the like”). Called). Dedicated hardware may be applied to the processing circuit 81, or a processor that executes a program stored in the memory may be applied. The processor is, for example, a central processing unit, a processing unit, an arithmetic unit, a microprocessor, a microcomputer, a DSP (Digital Signal Processor) or the like.

処理回路81が専用のハードウェアである場合、処理回路81は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、またはこれらを組み合わせたものが該当する。指示情報取得部11等の各部の機能それぞれは、複数の処理回路81で実現されてもよいし、各部の機能をまとめて一つの処理回路で実現されてもよい。   When the processing circuit 81 is dedicated hardware, the processing circuit 81 includes, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable). Gate Array) or a combination of these. Each function of each unit such as the instruction information acquisition unit 11 may be realized by a plurality of processing circuits 81, or the function of each unit may be realized by a single processing circuit.

処理回路81がプロセッサである場合、指示情報取得部11等の機能は、ソフトウェア等(ソフトウェア、ファームウェアまたはソフトウェアとファームウェア)との組み合わせにより実現される。ソフトウェア等はプログラムとして記述され、メモリに格納される。図19に示すように、処理回路81に適用されるプロセッサ82は、メモリ83に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、操作支援装置101は、処理回路81により実行されるときに、車両Aに搭載された操作対象装置23を操作するための操作パネル22を車両Aの運転者が指示体を用いて操作する際の、操作パネル22に対する指示体の位置または指示体の指示方向を含む指示情報を取得するステップと、指示情報に基づき、操作パネル22が有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するステップと、指示体を表す指示体画像を指示情報に基づき、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す操作パネル画像に合成して操作画像を作成するステップと、車両Aに搭載された表示装置21に操作画像を表示させるステップと、が結果的に実行されることになるプログラムを格納するためのメモリ83を備える。換言すれば、このプログラムは、指示情報取得部11等の手順や方法をコンピュータに実行させるものであるともいえる。ここで、メモリ83には、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)などの、不揮発性または揮発性の半導体メモリ、HDD(Hard Disk Drive)、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disk)及びそのドライブ装置等、または、今後使用されるあらゆる記憶媒体であってもよい。   When the processing circuit 81 is a processor, the functions of the instruction information acquisition unit 11 and the like are realized by a combination of software and the like (software, firmware or software and firmware). Software or the like is described as a program and stored in a memory. As shown in FIG. 19, the processor 82 applied to the processing circuit 81 reads out and executes a program stored in the memory 83 to realize the functions of the respective units. That is, when the operation support device 101 is executed by the processing circuit 81, the driver of the vehicle A operates the operation panel 22 for operating the operation target device 23 mounted on the vehicle A using the indicator. A step of acquiring instruction information including the position of the indicator with respect to the operation panel 22 or the indication direction of the indicator, and one or more operation switches from the plurality of operation switches of the operation panel 22 based on the instruction information A selection switch as a selection switch, and a pointer image representing the pointer based on the instruction information, and combining a non-selection switch that is not a selection switch and a selection switch into an operation panel image that is represented in a different manner. As a result, a step of creating an image and a step of displaying an operation image on the display device 21 mounted on the vehicle A are executed. A memory 83 for storing a program to be and. In other words, it can be said that this program causes the computer to execute procedures and methods such as the instruction information acquisition unit 11. Here, the memory 83 is a nonvolatile memory such as RAM (Random Access Memory), ROM (Read Only Memory), flash memory, EPROM (Erasable Programmable Read Only Memory), EEPROM (Electrically Erasable Programmable Read Only Memory), or the like. Or volatile semiconductor memory, HDD (Hard Disk Drive), magnetic disk, flexible disk, optical disk, compact disk, mini disk, DVD (Digital Versatile Disk) and its drive device, etc., or any storage media used in the future There may be.

以上、指示情報取得部11等の各機能が、ハードウェア及びソフトウェア等のいずれか一方で実現される構成について説明した。しかしこれに限ったものではなく、指示情報取得部11等の一部を専用のハードウェアで実現し、別の一部をソフトウェア等で実現する構成であってもよい。例えば、スイッチ選択部12については専用のハードウェアとしての処理回路でその機能を実現し、それ以外についてはプロセッサ82としての処理回路81がメモリ83に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。   The configuration in which each function of the instruction information acquisition unit 11 and the like is realized by either hardware or software has been described above. However, the present invention is not limited to this, and a configuration in which a part of the instruction information acquisition unit 11 or the like is realized by dedicated hardware and another part is realized by software or the like. For example, the function of the switch selection unit 12 is realized by a processing circuit as dedicated hardware, and otherwise, the processing circuit 81 as the processor 82 reads and executes a program stored in the memory 83. A function can be realized.

以上のように、処理回路は、ハードウェア、ソフトウェア等、またはこれらの組み合わせによって、上述の各機能を実現することができる。   As described above, the processing circuit can realize the functions described above by hardware, software, or the like, or a combination thereof.

また、上記では操作支援装置101,102,102A,102B,103を車載装置として説明したが、車載装置、PND(Portable Navigation Device)、通信端末(例えば携帯電話、スマートフォン、およびタブレットなどの携帯端末)、およびこれらにインストールされるアプリケーションの機能、並びにサーバなどを適宜に組み合わせてシステムとして構築されるシステムにも適用することができる。この場合、以上で説明した操作支援装置101,102,102A,102B,103の各機能または各構成要素は、システムを構築する各機器に分散して配置されてもよいし、いずれかの機器に集中して配置されてもよい。図20には、車両AとサーバSによる操作支援装置101の構成例を示している。図20に示すように、操作支援装置101の構成のうち、指示情報取得部11と表示制御部14が車両Aに配置され、スイッチ選択部12と操作画像作成部13がサーバSに配置される。   In the above description, the operation support devices 101, 102, 102A, 102B, and 103 have been described as in-vehicle devices. However, in-vehicle devices, PNDs (Portable Navigation Devices), communication terminals (for example, mobile terminals such as mobile phones, smartphones, and tablets). It is also possible to apply the present invention to a system constructed as a system by appropriately combining the functions of applications installed in these and servers and the like. In this case, each function or each component of the operation support apparatuses 101, 102, 102A, 102B, 103 described above may be distributed and arranged in each device that constructs the system. It may be arranged in a concentrated manner. In FIG. 20, the structural example of the operation assistance apparatus 101 by the vehicle A and the server S is shown. As shown in FIG. 20, in the configuration of the operation support apparatus 101, the instruction information acquisition unit 11 and the display control unit 14 are arranged in the vehicle A, and the switch selection unit 12 and the operation image creation unit 13 are arranged in the server S. .

なお、本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略したりすることが可能である。この発明は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。   It should be noted that the present invention can be freely combined with each other within the scope of the invention, and each embodiment can be appropriately modified or omitted. Although the present invention has been described in detail, the above description is illustrative in all aspects, and the present invention is not limited thereto. It is understood that countless variations that are not illustrated can be envisaged without departing from the scope of the present invention.

11 指示情報取得部、11A 手形検出部、11B ジェスチャ取得部、12 スイッチ選択部、13 操作画像作成部、14 表示制御部、15 車内情報取得部、16 装置制御部、21 表示装置、22 操作パネル、23 操作対象装置、24 指示体検出装置、81 処理回路、82 プロセッサ、83 メモリ。   11 instruction information acquisition unit, 11A bill detection unit, 11B gesture acquisition unit, 12 switch selection unit, 13 operation image creation unit, 14 display control unit, 15 in-vehicle information acquisition unit, 16 device control unit, 21 display device, 22 operation panel , 23 Operation target device, 24 Indicator detection device, 81 processing circuit, 82 processor, 83 memory.

本発明に係る第1の操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、車両の室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得する車内情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から車内情報に対応した1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。
本発明に係る第2の操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像であり、指示体は車両の乗員の手指であり、指示情報は、手指の形状の情報を含み、操作パネルは、手指による操作方法が異なる複数の操作スイッチを有し、スイッチ選択部は、手指の形状に対応した操作方法で操作される操作スイッチから選択スイッチを選択する。
The first operation support device according to the present invention is the position of the indicator relative to the operation panel when the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator. Alternatively, an instruction information acquisition unit that acquires instruction information including the indication direction of the indicator, an in- vehicle information acquisition unit that acquires information on the interior temperature of the vehicle or the fogging condition of the glass, and an operation panel based on the instruction information Based on the instruction information, a switch selection unit that selects one or more operation switches corresponding to in- vehicle information as a selection switch and a pointer image representing the pointer are displayed on the operation panel. The operation image is displayed on an operation image creation unit that creates an operation image by combining the operation panel image representing the arrangement of the operation switches and a display device mounted on the vehicle. Includes a Display control unit, an operation image is a selection switch and a non-selection switch is the operation switch not selective switch an image representing a different manner.
According to the second operation support device of the present invention, the position of the indicator relative to the operation panel when the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator. Alternatively, an instruction information acquisition unit that acquires instruction information including the instruction direction of the indicator, and a switch selection unit that selects one or more operation switches as selection switches from among a plurality of operation switches of the operation panel based on the instruction information And an operation image creation unit that creates an operation image by combining an indicator image representing the indicator with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on the instruction information, and mounted on the vehicle A display control unit that displays an operation image on the display device, and the operation image is different from a non-selection switch and a selection switch that are operation switches that are not selection switches. It is an image represented by a mode, the indicator is a finger of a vehicle occupant, the instruction information includes information on the shape of the finger, the operation panel has a plurality of operation switches with different operation methods by fingers, and switch selection The unit selects a selection switch from operation switches operated by an operation method corresponding to the shape of a finger.

本発明に係る操作支援方法は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得し、車両の室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得し、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から車内情報に対応した1又は複数の操作スイッチを選択スイッチとして選択し、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、車両に搭載された表示装置に、操作画像を表示させる、操作支援方法であって、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。 The operation support method according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. Obtains instruction information including the direction of the vehicle, obtains in- vehicle information including information related to vehicle interior temperature or glass fogging, and responds to in- vehicle information from the multiple operation switches on the operation panel based on the instruction information select one or more operating switches and as a selection switch, creating a pointer image representing the pointer, based on the instruction information, the synthesized and operation image on the operation panel image representing an arrangement of a plurality of operating switches on the operation panel An operation support method for displaying an operation image on a display device mounted on a vehicle, wherein the operation image is an operation switch that is not a selection switch. A switch selectively switches an image representing a different manner.

本発明に係る第1の操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、車両の室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得する車内情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から車内情報に対応した1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。本発明に係る操作支援装置によれば、運転者が操作機器を注視することなく操作を行えると共に、運転者がどの操作スイッチを操作すれば良いかを容易に把握することができる。
本発明に係る第2の操作支援装置は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得する指示情報取得部と、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から1又は複数の操作スイッチを選択スイッチとして選択するスイッチ選択部と、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、車両に搭載された表示装置に、操作画像を表示させる表示制御部と、を備え、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像であり、指示体は車両の乗員の手指であり、指示情報は、手指の形状の情報を含み、操作パネルは、手指による操作方法が異なる複数の操作スイッチを有し、スイッチ選択部は、手指の形状に対応した操作方法で操作される操作スイッチから選択スイッチを選択する。本発明に係る操作支援装置によれば、運転者が操作機器を注視することなく操作を行えると共に、運転者がどの操作スイッチを操作すれば良いかを容易に把握することができる。
The first operation support device according to the present invention is the position of the indicator relative to the operation panel when the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator. Alternatively, an instruction information acquisition unit that acquires instruction information including the indication direction of the indicator, an in- vehicle information acquisition unit that acquires information on the interior temperature of the vehicle or the fogging condition of the glass, and an operation panel based on the instruction information Based on the instruction information, a switch selection unit that selects one or more operation switches corresponding to in- vehicle information as a selection switch and a pointer image representing the pointer are displayed on the operation panel. The operation image is displayed on an operation image creation unit that creates an operation image by combining the operation panel image representing the arrangement of the operation switches and a display device mounted on the vehicle. Includes a Display control unit, an operation image is a selection switch and a non-selection switch is the operation switch not selective switch an image representing a different manner. According to the operation support device of the present invention, the driver can perform an operation without paying attention to the operation device, and can easily grasp which operation switch the driver should operate.
According to the second operation support device of the present invention, the position of the indicator relative to the operation panel when the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator. Alternatively, an instruction information acquisition unit that acquires instruction information including the instruction direction of the indicator, and a switch selection unit that selects one or more operation switches as selection switches from among a plurality of operation switches of the operation panel based on the instruction information And an operation image creation unit that creates an operation image by combining an indicator image representing the indicator with an operation panel image representing an arrangement of a plurality of operation switches on the operation panel based on the instruction information, and mounted on the vehicle A display control unit that displays an operation image on the display device, and the operation image is different from a non-selection switch and a selection switch that are operation switches that are not selection switches. It is an image represented by a mode, the indicator is a finger of a vehicle occupant, the instruction information includes information on the shape of the finger, the operation panel has a plurality of operation switches with different operation methods by fingers, and switch selection The unit selects a selection switch from operation switches operated by an operation method corresponding to the shape of a finger. According to the operation support device of the present invention, the driver can perform an operation without paying attention to the operation device, and can easily grasp which operation switch the driver should operate.

本発明に係る操作支援方法は、車両に搭載された操作対象装置を操作するための操作パネルを車両の運転者が指示体を用いて操作する際の、操作パネルに対する指示体の位置または指示体の指示方向を含む指示情報を取得し、車両の室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得し、指示情報に基づき、操作パネルが有する複数の操作スイッチの中から車内情報に対応した1又は複数の操作スイッチを選択スイッチとして選択し、指示体を表す指示体画像を、指示情報に基づき、操作パネルにおける複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、車両に搭載された表示装置に、操作画像を表示させる、操作支援方法であって、操作画像は、選択スイッチではない操作スイッチである非選択スイッチと選択スイッチとを異なる態様で表す画像である。本発明に係る操作支援方法によれば、運転者が操作機器を注視することなく操作を行えると共に、運転者がどの操作スイッチを操作すれば良いかを容易に把握することができる。


The operation support method according to the present invention is the position of the indicator relative to the operation panel or the indicator when the driver of the vehicle uses the indicator to operate the operation panel for operating the operation target device mounted on the vehicle. Obtains instruction information including the direction of the vehicle, obtains in- vehicle information including information related to vehicle interior temperature or glass fogging, and responds to in- vehicle information from the multiple operation switches on the operation panel based on the instruction information select one or more operating switches and as a selection switch, creating a pointer image representing the pointer, based on the instruction information, the synthesized and operation image on the operation panel image representing an arrangement of a plurality of operating switches on the operation panel An operation support method for displaying an operation image on a display device mounted on a vehicle, wherein the operation image is an operation switch that is not a selection switch. A switch selectively switches an image representing a different manner. According to the operation support method according to the present invention, the driver can perform an operation without paying attention to the operation device, and can easily grasp which operation switch the driver should operate.


Claims (13)

車両に搭載された操作対象装置を操作するための操作パネルを前記車両の運転者が指示体を用いて操作する際の、前記操作パネルに対する前記指示体の位置または前記指示体の指示方向を含む指示情報を取得する指示情報取得部と、
前記指示情報に基づき、前記操作パネルが有する複数の操作スイッチの中から1又は複数の前記操作スイッチを選択スイッチとして選択するスイッチ選択部と、
前記指示体を表す指示体画像を、前記指示情報に基づき、前記操作パネルにおける前記複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成する操作画像作成部と、
前記車両に搭載された表示装置に、前記操作画像を表示させる表示制御部と、を備え、
前記操作画像は、前記選択スイッチではない操作スイッチである非選択スイッチと前記選択スイッチとを異なる態様で表す画像である、
操作支援装置。
When the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator, the position of the indicator relative to the operation panel or the indication direction of the indicator is included. An instruction information acquisition unit for acquiring instruction information;
Based on the instruction information, a switch selection unit that selects one or a plurality of the operation switches as a selection switch from a plurality of operation switches included in the operation panel;
An operation image creating unit that creates an operation image by combining an indicator image representing the indicator with an operation panel image representing an arrangement of the plurality of operation switches on the operation panel based on the instruction information;
A display control unit for displaying the operation image on a display device mounted on the vehicle,
The operation image is an image representing in a different manner a non-selection switch that is an operation switch that is not the selection switch and the selection switch.
Operation support device.
前記スイッチ選択部は、前記指示体からの距離が短い順に1又は複数の前記操作スイッチを前記選択スイッチとして選択する、
請求項1に記載の操作支援装置。
The switch selection unit selects one or a plurality of the operation switches as the selection switch in the order of a short distance from the indicator.
The operation support apparatus according to claim 1.
前記操作画像において、前記選択スイッチは撮影画像で表され、他の前記操作スイッチはCG画像で表される、
請求項1に記載の操作支援装置。
In the operation image, the selection switch is represented by a captured image, and the other operation switches are represented by CG images.
The operation support apparatus according to claim 1.
前記操作画像において、前記選択スイッチは撮影画像で表され、他の前記操作スイッチは記号または文字で表される、
請求項1に記載の操作支援装置。
In the operation image, the selection switch is represented by a captured image, and the other operation switches are represented by symbols or characters.
The operation support apparatus according to claim 1.
前記操作画像において、前記選択スイッチは他の前記操作スイッチよりも高い明瞭度で表示される、
請求項1に記載の操作支援装置。
In the operation image, the selection switch is displayed with a higher clarity than the other operation switches.
The operation support apparatus according to claim 1.
前記表示装置はヘッドアップディスプレイである、
請求項1に記載の操作支援装置。
The display device is a head-up display;
The operation support apparatus according to claim 1.
前記表示装置はインスツルメントクラスタディスプレイである、
請求項1に記載の操作支援装置。
The display device is an instrument cluster display;
The operation support apparatus according to claim 1.
前記操作パネル画像および前記指示体画像は立体視画像であり、
前記操作画像作成部は、前記指示体画像と前記操作パネル画像とを立体視画像として合成し、
前記表示装置は、裸眼立体視表示機能を有する、
請求項1に記載の操作支援装置。
The operation panel image and the indicator image are stereoscopic images,
The operation image creating unit synthesizes the indicator image and the operation panel image as a stereoscopic image,
The display device has an autostereoscopic display function,
The operation support apparatus according to claim 1.
前記操作画像作成部は、前記選択スイッチの操作内容が前記選択スイッチに付記表示される前記操作パネル画像を作成する、
請求項1に記載の操作支援装置。
The operation image creation unit creates the operation panel image in which the operation content of the selection switch is additionally displayed on the selection switch.
The operation support apparatus according to claim 1.
前記指示体は前記車両の乗員の手指であり、
前記指示情報は、前記手指の形状の情報を含み、
前記スイッチ選択部は、前記手指の形状に対応した前記操作スイッチから前記選択スイッチを選択する、
請求項1に記載の操作支援装置。
The indicator is a finger of an occupant of the vehicle,
The instruction information includes information on the shape of the finger,
The switch selection unit selects the selection switch from the operation switches corresponding to the shape of the finger.
The operation support apparatus according to claim 1.
前記車両の室内温度またはガラスの曇り状況に関する情報を含む車内情報を取得する車内情報取得部をさらに備え、
前記スイッチ選択部は、前記車両情報に対応した前記操作スイッチから前記選択スイッチを選択する、
請求項1に記載の操作支援装置。
An in-vehicle information acquisition unit for acquiring in-vehicle information including information on the room temperature of the vehicle or the fogging condition of the glass,
The switch selection unit selects the selection switch from the operation switches corresponding to the vehicle information.
The operation support apparatus according to claim 1.
前記指示体は前記車両の乗員の手指であり、
前記手指を用いたジェスチャ操作を取得するジェスチャ取得部と、
前記ジェスチャ操作に基づき前記選択スイッチの操作内容を実行して前記操作対象装置を制御する装置制御部と、をさらに備える、
請求項9に記載の操作支援装置。
The indicator is a finger of an occupant of the vehicle,
A gesture acquisition unit for acquiring a gesture operation using the fingers;
A device control unit that controls the operation target device by executing the operation content of the selection switch based on the gesture operation;
The operation support apparatus according to claim 9.
車両に搭載された操作対象装置を操作するための操作パネルを前記車両の運転者が指示体を用いて操作する際の、前記操作パネルに対する前記指示体の位置または前記指示体の指示方向を含む指示情報を取得し、
前記指示情報に基づき、前記操作パネルが有する複数の操作スイッチの中から1又は複数の前記操作スイッチを選択スイッチとして選択し、
前記指示体を表す指示体画像を、前記指示情報に基づき、前記操作パネルにおける前記複数の操作スイッチの配置を表す操作パネル画像に合成して操作画像を作成し、
前記車両に搭載された表示装置に、前記操作画像を表示させる、
操作支援方法であって、
前記操作画像は、前記選択スイッチではない操作スイッチである非選択スイッチと前記選択スイッチとを異なる態様で表す画像である、
操作支援方法。
When the driver of the vehicle operates the operation panel for operating the operation target device mounted on the vehicle using the indicator, the position of the indicator relative to the operation panel or the indication direction of the indicator is included. Get instruction information,
Based on the instruction information, select one or a plurality of the operation switches as a selection switch from a plurality of operation switches of the operation panel,
Based on the instruction information, an indicator image representing the indicator is combined with an operation panel image representing an arrangement of the plurality of operation switches on the operation panel to create an operation image,
Displaying the operation image on a display device mounted on the vehicle;
An operation support method,
The operation image is an image representing in a different manner a non-selection switch that is an operation switch that is not the selection switch and the selection switch.
Operation support method.
JP2019530277A 2017-07-19 2017-07-19 Operation support device and operation support method Active JP6727441B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/026013 WO2019016878A1 (en) 2017-07-19 2017-07-19 Operation support device and operation support method

Publications (2)

Publication Number Publication Date
JPWO2019016878A1 true JPWO2019016878A1 (en) 2019-11-07
JP6727441B2 JP6727441B2 (en) 2020-07-22

Family

ID=65016631

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019530277A Active JP6727441B2 (en) 2017-07-19 2017-07-19 Operation support device and operation support method

Country Status (2)

Country Link
JP (1) JP6727441B2 (en)
WO (1) WO2019016878A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7255619B2 (en) * 2021-03-19 2023-04-11 横河電機株式会社 Information processing device, information processing method, information processing program, and information processing system

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000006687A (en) * 1998-06-25 2000-01-11 Yazaki Corp Onboard equipment switch safety operation system
JP2001216069A (en) * 2000-02-01 2001-08-10 Toshiba Corp Operation inputting device and direction detecting method
JP2004145722A (en) * 2002-10-25 2004-05-20 Keio Gijuku Hand pattern switching device
JP2007286696A (en) * 2006-04-12 2007-11-01 Toyota Motor Corp Input device
JP2008210359A (en) * 2007-01-30 2008-09-11 Toyota Motor Corp Operation device

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4426785B2 (en) * 2002-08-30 2010-03-03 ユニ・チャーム株式会社 Pants-type disposable diapers

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000006687A (en) * 1998-06-25 2000-01-11 Yazaki Corp Onboard equipment switch safety operation system
JP2001216069A (en) * 2000-02-01 2001-08-10 Toshiba Corp Operation inputting device and direction detecting method
JP2004145722A (en) * 2002-10-25 2004-05-20 Keio Gijuku Hand pattern switching device
JP2007286696A (en) * 2006-04-12 2007-11-01 Toyota Motor Corp Input device
JP2008210359A (en) * 2007-01-30 2008-09-11 Toyota Motor Corp Operation device

Also Published As

Publication number Publication date
WO2019016878A1 (en) 2019-01-24
JP6727441B2 (en) 2020-07-22

Similar Documents

Publication Publication Date Title
EP3000013B1 (en) Interactive multi-touch remote control
JP6900133B2 (en) Gesture operation device and gesture operation method
JP2010184600A (en) Onboard gesture switch device
CN110395182B (en) Motor vehicle with electronic rear view mirror
CN109643219B (en) Method for interacting with image content presented on a display device in a vehicle
JP2009239674A (en) Vehicular periphery display device
JPWO2019016936A1 (en) Operation support apparatus and operation support method
US10960898B2 (en) Method and arrangement for interacting with a suggestion system having automated operations
JP7338184B2 (en) Information processing device, information processing system, moving body, information processing method, and program
US20180157324A1 (en) Method and Device for Interacting with a Graphical User Interface
JP6481156B2 (en) Input display device
JP2006264615A (en) Display device for vehicle
JP6477123B2 (en) Operation system
JP2008195141A (en) Operation supporting device and method for on-vehicle equipment
US10318118B2 (en) Vehicular display apparatus
US20220234444A1 (en) Input device
JP2014021748A (en) Operation input device and on-vehicle equipment using the same
JPWO2019021418A1 (en) Display control apparatus and display control method
JP6033465B2 (en) Display control device
JPWO2019016878A1 (en) Operation support apparatus and operation support method
EP3421300A1 (en) Control unit for vehicle
US10664152B2 (en) Input apparatus for vehicle
US8731824B1 (en) Navigation control for a touch screen user interface
EP3361367A1 (en) In-vehicle input device, in-vehicle input system, and in-vehicle input device control method
JP7043240B2 (en) Vehicle input device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190717

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200630

R150 Certificate of patent or registration of utility model

Ref document number: 6727441

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250